Neco

cybozu.comにおけるマルチテナンシー

クラウド基盤本部のPlatformチームの昆野です。 私たちPlatformチームでは、サイボウズが提供するクラウドサービス「cybozu.com」が安定稼働するためのプラットフォームの開発/運用に取り組んでいます。 今回の記事では、私たちのチームがプラットフォームの…

Kubernetes 上のストレージをエンド・ツー・エンドに監視する

この記事は、CYBOZU SUMMER BLOG FES '25 の記事です。 こんにちは、クラウド基盤本部の伴野です。クラウド基盤本部では cybozu.com を稼働させるため、Neco と呼ばれる Kubernetes クラスタを当社で調達した機材上に構築しています。この記事では、そんなク…

Cilium Connection Tracking Deep Dive

この記事は、CYBOZU SUMMER BLOG FES '25の記事です。 こんにちは。 クラウド基盤本部 Cloud Platform 部で Kubernetes 基盤(Neco)のネットワークを担当している寺嶋(terassyi)です。 Neco では Cilium を Kubernetes ネットワークに採用しています。 先日…

【連載】サイボウズのKubernetesプラットフォームを支えるOSS: ②Teleportによる踏み台サーバーの提供とlogin-protectorによるログインセッションの保護

この記事は、CYBOZU SUMMER BLOG FES '25の記事です。 クラウド基盤本部 PDX(Platform Developer Experience)チームの川満です。 この記事は「【連載】サイボウズのKubernetesプラットフォームを支えるOSS」の第2回目として、サイボウズのKubernetesプラッ…

【連載】サイボウズのKubernetesプラットフォームを支えるOSS

この記事は、CYBOZU SUMMER BLOG FES '25の記事です。 はじめに クラウド基盤本部 PDX(Platform Developer Experience)チームの池添です。 サイボウズでは、国内のデータセンターに自前のサーバーを配置して、その上でKubernetesをベースとしたクラウド基…

【連載】cybozu.com クラウド基盤の全貌 第6回 MySQL on Kubernetes

こんにちは。DBRE チーム の飯塚です。 cybozu.com では kintone や Garoon をはじめとする様々なクラウドサービスを提供しており、その多くで MySQL をプライマリデータストアとして利用しています。お客様に安定したサービスを提供するためには、この基盤…

【連載】Cybozu.comクラウド基盤の全貌 第5回 Neco のストレージ

はじめに こんにちは、クラウド基盤本部の伴野です。「【連載】Cybozu.comクラウド基盤の全貌」では、私たちが運用しているクラウド基盤を連載形式で紹介しています。今回の記事では、インフラ基盤 Neco のストレージについて説明します。Neco では様々なア…

【連載】Cybozu.comクラウド基盤の全貌 第4回 Cybozu.com が稼働するデータセンター

クラウド基盤本部 Network&DCチームの尾崎です。Network&DCチームは、cybozu.com が稼働するデータセンターの契約や、データセンターネットワークの設計・構築・運用を行っています。 前2回の記事では、Neco の Kubernetes 基盤について解説しました。今回は…

【連載】Cybozu.comクラウド基盤の全貌 第3回 Neco のネットワーク

はじめに クラウド基盤本部でサイボウズの Kubernetes 基盤である Neco の開発・運用を担当している杉浦です。 前回の記事では Neco について、サーバ管理の方法や自社製の Kubernetes エンジンである CKE を紹介しました。今回は Neco のネットワークに注目…

【連載】Cybozu.comクラウド基盤の全貌 第2回 サイボウズのKubernetes基盤「Neco」の紹介

はじめに クラウド基盤本部で、インフラ基盤「Neco」の開発と運用を担当している三村と竹村です。 サイボウズでは、Kubernetesを用いたオンプレミスのインフラ基盤「Neco」の開発・運用をしています。 Necoは、kintoneやGraoon、サイボウズOfficeなど、サイ…

【連載】Cybozu.comクラウド基盤の全貌

イントロダクション クラウド基盤本部の吉川拓哉です。「Cybozu.comクラウド基盤の全貌」と題して私たちが運用している基盤を連載形式で紹介することになりました。第1回となる本記事はイントロを兼ねたサイボウズのクラウド基盤の概要説明です。 サイボウズ…

サイボウズサマーインターン2024 Kubernetes 基盤コース開催報告

こんにちは。Neco チームの杉浦、寺嶋、阪上です。 今年も Neco チームでサマーインターンシップ(Kubernetes 基盤開発コース)を開催しました。 インターンには3名の方に参加してもらい、2チームに分かれて開発を行いました。 この記事では、インターンの様…

Cilium 運用で遭遇した問題とその対応

この記事は、CYBOZU SUMMER BLOG FES '24 (クラウド基盤本部 Stage) DAY 17の記事です。 こんにちは。クラウド基盤本部 Cloud Platform 部で Kubernetes 基盤(Neco)のネットワークを担当している寺嶋です。 Neco の Kubernetes クラスタはネットワークに C…

Kubernetes環境でパケットがドロップされる問題を解決した話

この記事は、CYBOZU SUMMER BLOG FES '24(クラウド基盤本部 Stage)DAY 16 の記事です。 こんにちは、Cloud Platformチームの竹村です。 私たちのチームでは、Necoと呼ばれるKubernetes基盤の開発や運用をしています。 このブログ記事では、大量の通信を行…

サイボウズの Kubernetes マニフェスト差分管理について

この記事は、CYBOZU SUMMER BLOG FES '24 (クラウド基盤本部 Stage) DAY 15の記事です。 クラウド基盤本部の深谷です。 サイボウズではクラウドサービスである cybozu.com の基盤を VM ベースの現行基盤から、kubernetes を活用したコンテナベースの新基盤 N…

Necoのサーバー再起動の仕組みの改善

この記事は、CYBOZU SUMMER BLOG FES '24 (クラウド基盤本部 stage) DAY 11の記事です。 こんにちは、CloudPlatformの三村です。 サイボウズでは、Kubernetesを用いた新たなインフラ基盤「Neco」の開発・運用をしています。 現在我々は、Kuberneteノードで使…

【Day3】あなたは何故クラウド基盤本部に?気になったので聞いてみた!

こんにちは!クラウド基盤本部、PDX(Platform Developer eXperience)所属の@BkNkbot です。先日から、サイボウズのクラウド基盤本部の所属メンバーが記事を執筆する「クラウド基盤本部Stage」が始まっています! というわけで、最初の3日間は私から「イン…

【Day2】あなたは何故クラウド基盤本部に?気になったので聞いてみた! #CybozuSummerBlogFes2024

こんにちは!クラウド基盤本部、PDX(Platform Developer eXperience)所属の@BkNkbotです。昨日から、CYBOZU SUMMER BLOG FES '24でクラウド基盤本部の所属メンバーが記事を執筆する「クラウド基盤本部Stage」が始まっています! というわけで、最初の3日間…

【Day1】あなたは何故クラウド基盤本部に?気になったので聞いてみた! #CybozuSummerBlogFes2024

こんにちは!クラウド基盤本部、PDX(Platform Developer eXperience)所属の@BkNkbotです。今日から最終日の8/20(火)まで、CYBOZU SUMMER BLOG FES '24でクラウド基盤本部Stageが始まり、毎日クラウド基盤本部のメンバーが記事を執筆します。 ……というわけ…

Kubernetes用プロファイリングツール necoperfの紹介

はじめに こんにちは、Necoチームの竹村です。 今回のブログ記事では、新しく開発したプロファイリングツールである necoperf について紹介します。necoperf は Kubernetes 上で動作するコンテナに対して、簡単にプロファイリングを行えるようにするツールで…

大規模Kubernetesクラスタにおけるコンテナレジストリの高速化

こんにちは。サマーインターンシップ2023のKubernetes基盤開発コースに参加した、高橋 (TAK848) と花田 (hanapedia) です。 Necoチーム では現在コンテナレジストリの可用性を高めるため、コンテナレジストリミラーをクラスタ内にデプロイしています。 しか…

サイボウズサマーインターン2022 報告 〜 Kubernetes基盤開発コース&ストレージコース

こんにちは、Necoチームの鎌田、阪上、そしてストレージチームの大神、satです。 サイボウズは毎年サマーインターンシップを開催しています。2022年度のサマーインターンシップもさまざまなコースを用意しました。本記事では8月22日~9月2日の10日間にわたっ…

サイボウズサマーインターン2021 報告 〜 Kubernetes基盤開発コース

こんにちは、Necoチームの鈴木、石井、そしてストレージチームのsatです。 サイボウズは毎年サマーインターンシップを開催しています。去年に続き、今年もCOVID-19の影響でフルリモート開催でした。 インターンには様々なコースがありますが、本記事ではその…

Neco プロジェクト完了したので人材募集します!

Neco プロジェクト責任者の ymmt です。 Neco プロジェクトは、2018年に開始したサイボウズのクラウドサービス基盤を刷新するプロジェクトです。 三年半の期間を経て、この度プロジェクトの目標をすべて達成できました。 そこで今回は社内で完了報告をした資…

MOCO - Kubernetes 用 MySQL クラスタ運用ソフトウェア

サイボウズの Kubernetes 基盤を開発している Neco プロジェクトの ymmt です。 サイボウズ製品のほとんどはデータベースとして MySQL を採用しています。 現在 400 を越える MySQL のインスタンスを運用しており、これら全てを新しい Kubernetes 基盤に移行…

KubernetesにおけるownerReferenceの誤用にご用心

はじめに こんにちは、Necoプロジェクト兼ストレージチームのsatです。本記事はKubernetesのガベージコレクションにおけるownerReferenceというフィールドの役割、誤用したときの振る舞い、および問題を防止、検出する方法する方法について述べます。 本記事…

データセンター仮想化ツール Placemat v2の紹介

こんにちは、Necoチームの鈴木です。 Necoチームでは仮想データセンター構築ツールPlacematを使って、データセンターを丸ごと仮想化し、その上でサーバーのプロビジョニングやKubernetesクラスタ構築、Kubernetes上で動作するアプリケーションのTest Suites…

VictoriaMetrics と Grafana による Kubernetes クラスタのモニタリング

こんにちは。 Necoチームの梅澤です。 従前、Neco ではクラスタのモニタリングに Prometheus を利用していましたが、最近これを VictoriaMetrics + VictoriaMetrics operator に変更しました。 本記事では、Prometheus で感じていた問題点と、それをどのよう…

サイボウズの新しいインフラ基盤を支えるストレージの本番適用に向けた取り組み

はじめに こんにちは、Necoプロジェクトのsatです。Necoプロジェクトではサイボウズのクラウドサービスcybozu.comの次期インフラ基盤を開発しています。その根幹となるコンポーネントの一つがお客様のデータをあずかるストレージです。本記事ではNecoのスト…

分散ストレージCephのオーケストレータRookのデータ破壊バグを修正しました

はじめに こんにちは、Necoプロジェクトのsatです。本記事では分散ストレージCephのオーケストレータであり、Kubernetes上で動作するRookに関するものです。このRookに存在していたデータ破壊バグを我々が検出、修正した体験談、およびそこから得られたこと…