algonote

機械学習とか

JULY TECH FESTA 2018感想 #JTF2018

JULY TECH FESTA 2018に参加しました。

f:id:hiromichinomata:20180803194605p:plain:w400

Preferred Networksの機械学習クラスタを支える技術

PFNの1024GPUクラスタを構成している技術、運用の実際についての話。Tesla P 100 8GPU x 16 ServersをInfiniBandで接続、mesosとkubernetesを両方使っているが、kubernetesへ統合中。

Kubernetesではnvidia-dockerを使用。Kuberetesのdevice pluginはGPUをrequestしないcontainerには全GPUをexposeする仕様のため注意が必要。スケジューリングは MostResourceRequestedを使用しているが公平性はまだ上手く担保できていない。


mesosとkubernetes両方使っているのに闇を感じた。DockerコンテナをDockerfileでなくYAMLから宣言的に生成するというのは差分を重ねられるDockerのアーキテクチャを全面的に否定している気もした。

誰でも扱えるという観点ではKuberneteseの設定ファイルやDockerfileはよくできておらず、いい感じのsuger syntaxが必要ということかもしれない。

Jupyter Notebookが変える、あなたのチームの運用作業

docs.google.com

運用の手順書をJupyter Notebookに書くという試み。困ったことやハマったこともメモれる。


自動化されていないものはバグなんて言われる今日この頃。このソリューションが流行るモチベーションは低いのでは。

クラウド上のJupyter NotebookでDash Button押す感覚で実行できないとチャットデプロイに気軽さで負ける気もしました。

副業で収益化を目指す! 月数百円から始めるWebサービスの立ち上げから運営まで

資本を入れずBootstrapでサービスを作る話。Rails on Herokuで極力gemを入れていない。会社でやるサービスの間隔を個人サービスに持ち込むとコストばかりかかるので注意が必要。

「使ってみた」では終わらなせない!AWS GuardDutyを使ったサイバー攻撃の検出・分析

AWS GuardDutyは2017/11月にリリース。IAMやec2に特化した脅威検知。ボタン3つでONにできる。30日間無料。

FOLIOでは11アカウント東京リージョンで使用。元使っていたものに対してコストが1/10に。誤検知も少なく自動Archiveオプションで減らすこともできる。

その他

  • 去年は配信があったが今年はなくて残念。
  • 台風をギリギリ回避した。
  • 飲み物を無料で配っていた。猛暑なのでありがたい。
  • 弁当も提供された。超早割500円だったのでだいぶ元とった感