Neco

サイボウズサマーインターン2024 Kubernetes 基盤コース開催報告

こんにちは。Neco チームの杉浦、寺嶋、阪上です。 今年も Neco チームでサマーインターンシップ(Kubernetes 基盤開発コース)を開催しました。 インターンには3名の方に参加してもらい、2チームに分かれて開発を行いました。 この記事では、インターンの様…

Cilium 運用で遭遇した問題とその対応

この記事は、CYBOZU SUMMER BLOG FES '24 (クラウド基盤本部 Stage) DAY 17の記事です。 こんにちは。クラウド基盤本部 Cloud Platform 部で Kubernetes 基盤(Neco)のネットワークを担当している寺嶋です。 Neco の Kubernetes クラスタはネットワークに C…

Kubernetes環境でパケットがドロップされる問題を解決した話

この記事は、CYBOZU SUMMER BLOG FES '24(クラウド基盤本部 Stage)DAY 16 の記事です。 こんにちは、Cloud Platformチームの竹村です。 私たちのチームでは、Necoと呼ばれるKubernetes基盤の開発や運用をしています。 このブログ記事では、大量の通信を行…

サイボウズの Kubernetes マニフェスト差分管理について

この記事は、CYBOZU SUMMER BLOG FES '24 (クラウド基盤本部 Stage) DAY 15の記事です。 クラウド基盤本部の深谷です。 サイボウズではクラウドサービスである cybozu.com の基盤を VM ベースの現行基盤から、kubernetes を活用したコンテナベースの新基盤 N…

Necoのサーバー再起動の仕組みの改善

この記事は、CYBOZU SUMMER BLOG FES '24 (クラウド基盤本部 stage) DAY 11の記事です。 こんにちは、CloudPlatformの三村です。 サイボウズでは、Kubernetesを用いた新たなインフラ基盤「Neco」の開発・運用をしています。 現在我々は、Kuberneteノードで使…

【Day3】あなたは何故クラウド基盤本部に?気になったので聞いてみた!

こんにちは!クラウド基盤本部、PDX(Platform Developer eXperience)所属の@BkNkbot です。先日から、サイボウズのクラウド基盤本部の所属メンバーが記事を執筆する「クラウド基盤本部Stage」が始まっています! というわけで、最初の3日間は私から「イン…

【Day2】あなたは何故クラウド基盤本部に?気になったので聞いてみた! #CybozuSummerBlogFes2024

こんにちは!クラウド基盤本部、PDX(Platform Developer eXperience)所属の@BkNkbotです。昨日から、CYBOZU SUMMER BLOG FES '24でクラウド基盤本部の所属メンバーが記事を執筆する「クラウド基盤本部Stage」が始まっています! というわけで、最初の3日間…

【Day1】あなたは何故クラウド基盤本部に?気になったので聞いてみた! #CybozuSummerBlogFes2024

こんにちは!クラウド基盤本部、PDX(Platform Developer eXperience)所属の@BkNkbotです。今日から最終日の8/20(火)まで、CYBOZU SUMMER BLOG FES '24でクラウド基盤本部Stageが始まり、毎日クラウド基盤本部のメンバーが記事を執筆します。 ……というわけ…

Kubernetes用プロファイリングツール necoperfの紹介

はじめに こんにちは、Necoチームの竹村です。 今回のブログ記事では、新しく開発したプロファイリングツールである necoperf について紹介します。necoperf は Kubernetes 上で動作するコンテナに対して、簡単にプロファイリングを行えるようにするツールで…

大規模Kubernetesクラスタにおけるコンテナレジストリの高速化

こんにちは。サマーインターンシップ2023のKubernetes基盤開発コースに参加した、高橋 (TAK848) と花田 (hanapedia) です。 Necoチーム では現在コンテナレジストリの可用性を高めるため、コンテナレジストリミラーをクラスタ内にデプロイしています。 しか…

サイボウズサマーインターン2022 報告 〜 Kubernetes基盤開発コース&ストレージコース

こんにちは、Necoチームの鎌田、阪上、そしてストレージチームの大神、satです。 サイボウズは毎年サマーインターンシップを開催しています。2022年度のサマーインターンシップもさまざまなコースを用意しました。本記事では8月22日~9月2日の10日間にわたっ…

サイボウズサマーインターン2021 報告 〜 Kubernetes基盤開発コース

こんにちは、Necoチームの鈴木、石井、そしてストレージチームのsatです。 サイボウズは毎年サマーインターンシップを開催しています。去年に続き、今年もCOVID-19の影響でフルリモート開催でした。 インターンには様々なコースがありますが、本記事ではその…

Neco プロジェクト完了したので人材募集します!

Neco プロジェクト責任者の ymmt です。 Neco プロジェクトは、2018年に開始したサイボウズのクラウドサービス基盤を刷新するプロジェクトです。 三年半の期間を経て、この度プロジェクトの目標をすべて達成できました。 そこで今回は社内で完了報告をした資…

MOCO - Kubernetes 用 MySQL クラスタ運用ソフトウェア

サイボウズの Kubernetes 基盤を開発している Neco プロジェクトの ymmt です。 サイボウズ製品のほとんどはデータベースとして MySQL を採用しています。 現在 400 を越える MySQL のインスタンスを運用しており、これら全てを新しい Kubernetes 基盤に移行…

KubernetesにおけるownerReferenceの誤用にご用心

はじめに こんにちは、Necoプロジェクト兼ストレージチームのsatです。本記事はKubernetesのガベージコレクションにおけるownerReferenceというフィールドの役割、誤用したときの振る舞い、および問題を防止、検出する方法する方法について述べます。 本記事…

データセンター仮想化ツール Placemat v2の紹介

こんにちは、Necoチームの鈴木です。 Necoチームでは仮想データセンター構築ツールPlacematを使って、データセンターを丸ごと仮想化し、その上でサーバーのプロビジョニングやKubernetesクラスタ構築、Kubernetes上で動作するアプリケーションのTest Suites…

VictoriaMetrics と Grafana による Kubernetes クラスタのモニタリング

こんにちは。 Necoチームの梅澤です。 従前、Neco ではクラスタのモニタリングに Prometheus を利用していましたが、最近これを VictoriaMetrics + VictoriaMetrics operator に変更しました。 本記事では、Prometheus で感じていた問題点と、それをどのよう…

サイボウズの新しいインフラ基盤を支えるストレージの本番適用に向けた取り組み

はじめに こんにちは、Necoプロジェクトのsatです。Necoプロジェクトではサイボウズのクラウドサービスcybozu.comの次期インフラ基盤を開発しています。その根幹となるコンポーネントの一つがお客様のデータをあずかるストレージです。本記事ではNecoのスト…

分散ストレージCephのオーケストレータRookのデータ破壊バグを修正しました

はじめに こんにちは、Necoプロジェクトのsatです。本記事では分散ストレージCephのオーケストレータであり、Kubernetes上で動作するRookに関するものです。このRookに存在していたデータ破壊バグを我々が検出、修正した体験談、およびそこから得られたこと…

コンテナレジストリの可用性を高める取り組み

こんにちは、Necoチームの池添です。 みなさんKubernetes向けのコンテナレジストリにはどこのサービスを利用していますか?そのサービスの調子が悪くて困ったりしたことはありませんか? 今回はコンテナレジストリをKubernetesクラスタ上にセルフホストし、…

Neco の宣言的なサーバー全台再起動の仕組み

こんにちは、Neco チームの 阪上 です。皆さんは Kubernetes クラスタのマシン全台の再起動オペレーションに丸一日かかったことはありますか? 手順を確認して雑談するだけで時間が過ぎて行く…穏やかですが、物足りなさも感じます。 そこで今回は、Kubernetes…

Flaky Testとの戦い

こんにちは。Necoチームの池添です。 最近にわかにFlaky Test界隈が盛り上がりを見せているようです[^1],[^2],[^3]。 この流れに乗じてNecoプロジェクトにおけるFlaky Testとの戦いについて紹介したいと思います。

Kubernetes 用 CNI プラグイン Coil v2 の紹介

Neco プロジェクトの ymmt です。 サイボウズでは 2018 年から Kubernetes 用のネットワークプラグイン Coil を開発しています。 当時は Kubernetes の知識がチームに蓄積されておらず、いささか使い勝手が悪い仕様でした。 そこで 3 か月ほど前から設計を全…

Rookのメンテナに就任しました: これまでとこれからの取り組み

はじめに こんにちは、Necoプロジェクトのsatです。先週CNCFのgraduatedプロジェクトであるRookのメンテナに就任しました。本記事ではRookがどういうソフトウェアであるかについて軽く触れた後に、何をしてきたことによってメンテナになったのか、今後どうし…

サイボウズサマーインターン2020 報告 〜 OSSへの貢献を通して学ぶKubernetes基盤開発

こんにちは。Necoチームの池添とsatです。 サイボウズは毎年サマーインターンシップを開催しています。 今年は新型コロナウイルス(COVID-19)の影響で一時開催が危ぶまれました。 しかし、この状況で学生の皆さんの就業体験の機会が失われてしまうのもよくな…

Folding@homeを通じてCOVID-19治療薬の発見に貢献します

こんにちは。Necoの@dulltzです。 サイボウズでは、オンプレミス機材の一部を活用してFolding@homeによるCOVID-19のタンパク質構造予測に貢献することにしました。 ご自身で動かしてみたいというかた向けに、我々が使っているKubernetesマニフェストも記載し…

OSSへの貢献ノウハウ: ユーザサポート編

はじめに こんにちは、Necoプロジェクトのsatです。本記事は先日公開した以下の記事の続編です。 blog.cybozu.io 上記の記事ではOSSプロジェクト全体を盛り上げる手段を次のように紹介しました。 プロジェクト全体を盛り上げるには例えば次のような方法があ…

Maneki & Neco ミートアップの資料を公開します

Neco プロジェクト責任者の ymmt です。 Neco プロジェクトはサイボウズのクラウドサービス基盤を Kubernetes をベースとして刷新するプロジェクトです。 3か年計画の3年目ですが、すでに国内3箇所でデータセンターを稼働しています。 Maneki プロジェク…

OSSへの貢献ノウハウ

はじめに こんにちは、Necoプロジェクトのsatと申します。本記事は世間で何かと重要といわれつつもなぜ重要なのかがわかりにくく、かつ、広くやりかたが知られていないOSSへの貢献ノウハウについて述べます。本記事は筆者が過去にはLinuxカーネル、現在ではR…

Kubernetesへの機能追加にかかわった話と、そこから得た知見

はじめに こんにちは、Necoプロジェクトのsatと申します。 みなさんはKubernetesに機能が追加されるまでの流れをご存知でしょうか。githubに存在するプロジェクトであれば典型的にはfeature request用のissueが立てられて、それをもとにPRが作られてレビュー…