#E7B132
↑↑↑この資料↑↑↑
プロフィール
Snapdish Inc. CTO兼取締役 / システムアーキテクト、AI開発、Python、Swift、Objective-C、AWS、GCP、ネットワーク、DB・サーバーエンジニアリングなどマルチスタックエンジニア。チームビルディングや新規事業・プロジェクト立ち上げなど。スタートアップの技術領域のアクセラレーションやサービス開発が得意。
経歴
Living on the edge→edge→livedoor→イトクロ→弁護士ドットコム→Vuzz（現Snapdish）
TechCrunch CTO of the year powered by AWS
https://aws.amazon.com/jp/blogs/startup/cto-of-the-year-2014-2021/
他所属
WHITECOFFEE株式会社取締役 / 株式会社ナチュラルコーヒー代表取締役 / トリプルイー株式会社顧問 / 学校法人北部学園理事長（幼保連携認定こども園、幼稚園、学童保育、放課後デイサービスなど）一般社団法人PyConJP / PyConKyushu実行委 / enoughの会@熊本
趣味
金魚飼育、コーヒー、ロードバイク、アウトドア、カメラなど
SNS
kiyotaman@twitter, kingyolv@instagram, jfk@github
#E7B132
きよた
熊本
完全
移住
完了
！！
#E7B132
きよた
#E7B132
きよた
コーヒー
は、
お好
きで
すか
？
伝えたいこと
LLMを使ったサービス開発する上で考えるべきことって何？
LLMを扱うための技術ってどんなのがあるの？
#E7B132
きよた
コーヒー
は、
お好
きで
すか
？
Topics:
・Snapdish？
・Cooking Assistant AI
・System Design
・Research
#E7B132
?
#E7B132
ダウンロード200万以上
全世界で使われてる料理投稿No.1、料理カメラアプリ(^_^)/
世界初！おいしく撮れるAI機能＆フィルター！
◎みんなの料理投稿が２０００万以上、No.1 AI料理カメラ！
◎おいしく撮れる構図をAIが点数ナビ、誰でもおいしく撮れる！
◎いろいろな種類の料理専用フィルターで、おいしく加工！
◎人気の料理やレシピが見放題、きょう何作ろう？に困らない！
◎無料の食品モニター企画が連日開催、もらってうれしい！
◎撮って・見て・もらって、毎日のお料理がわくわくする！
メディア掲載実績
フジテレビ系列「めざましテレビ」、日本テレビ系列「バゲット」、フジテレビ系列「裸の少年」、BSよしもと「ワシんとこポスト」、TBS系列「羽鳥慎一モーニングショー」、TOKYO FM「ONE MORNING」、日本テレビ系列「ZIP！」、日本テレビ系列「news every.」、フジテレビ系列「Live News α」、フジテレビ系列「鉄腕DASH」、日経MJ、テレビ朝日系列「家事ヤロウ」、NHK「グレーテルのかまど」、フジテレビ系列「99人の壁」、TBS系列「ラヴィット！」、朝日放送テレビ「おはよう朝日です」、テレビ東京「ワールドビジネスサテライト」、フジテレビ系列「Live News イット!」、日本経済新聞、産経新聞など
#E7B132
#E7B132
きよた
太陽
は東
から
登ら
ない
？？
Cooking Assistant AI
について
#E7B132
きよた
やっ
たこ
とな
いと
感じ
たら
？
#E7B132
きよた
難し
いよ
って
、お
思っ
たら
？
#E7B132
きよた
思考
を止
めな
いで
！！
毎日の献立が悩まず決まる
自分好みのレシピを生成
写真つきの料理の簡単記録
#E7B132
きよた
調べ
て見
よう
。試
して
みよう。
DEMOをみてみる
#E7B132
きよた
ねぇ
想像
して
みよ
うよ
！！
毎日の献立が悩まず決まる
チャット（対話）を通じて、一番の悩みを一緒に解決する手助けをする。実際、私自身が時々悩む。DIY Testingができる。
「悩み」がビジネスの要かなと思うので、対話によって悩みに寄り添うことによって何か生まれないかのPoC。
#E7B132
きよた
その
先に
、何
があ
るの
か？
自分好みのレシピ生成
利用者がより短いステップ（なるべく少ないトークン）で、自分好みレシピの生成をする。環境によって様々、カスタマイズしたい。
ヒストリーやコンテキストが蓄積され、Chatbotサービスのパーソナライズ化。
#E7B132
きよた
自分
の目
で確
かめ
てみ
たい
よね
写真つきの料理の簡単記録
良いなと思ったレシピや献立を選んでSnapdishに投稿して記録する。
対話上のテキスト自体が毎回同じとは限らないし、使えるレシピなどは記録しておきたいところ。サービスとしての体験向上。
#E7B132
きよた
迷っ
たら
来た
道を
引き
返そ
う！
最も重要な技術
プロンプト
エンジニアリング
#E7B132
きよた
早す
ぎる
こと
なん
てない！
プロンプト
エンジニアリングは高度な思考技術が
求められる
#E7B132
きよた
今年
はど
んな
年で
すか
？
検索リテラシーに
通じるものがある
#E7B132
きよた
きっ
と今
年も
良い
年だ
ね！
LLMを使いこなすための言語スキルが
プロンプト
エンジニアリング
#E7B132
きよた
文化
藝術
異文
化交
流技
術革
新！
JSONを生成するための
プロンプト
RESPONSE FORMAT:
JSON-formatted and must starts and ends with curly braces.
Examples:
'{response_data_model}'
#E7B132
きよた
金魚
はお
好き
ですか？
このサービスは、
プロンプトエンジニアリングの代行
目的特化型
エージェント
#E7B132
きよた
どこ
から
きて
どこ
へ行く？
ChatGPT Pluginを作りたかったが、開発権限がまだないのとChatGPTは敷居が高そう、バーティカル路線はあり？
#E7B132
きよた
最近
亀が
脱走
したよ。
なんとなく、わかんなはった？
LLM（ChatGPT）は、こぎゃんなこつができるったい。
#E7B132
きよた
明日
また
会え
るさ
！！
System Design
について
#E7B132
きよた
夢は
ある
か？
望み
はあ
るか
？
System Design
目的をある程度絞って、WEBインターフェースを通じて、LLMの性能を最大限引き出すための構成。
実装は、より少ないコードでよりきめ細かやかなことを実現させ、UXを向上させるとうのが狙い。迅速な開発が、ポジション取り的に重要な時期。
#E7B132
きよた
遊ん
で遊
んで
遊ん
で遊
んで
！
UI
コンソールで使うツールが多いが、WEBインターフェースの方が親しみやすいので、WEBインターフェースを採用。
Streamlit
（React+Python Web Framework）
#E7B132
きよた
兎角
に人
の世
は住
みに
くい
。
UI
LINEなどのチャットアプリでの実装も考えたが、一文字一文字表示させる感じが作りたかったので、先にWEBをやることに。後、会社の都合も。
Streamlitは、単純な実装は簡単だが、込み入ったアプリを作りたい場合、自己解決能力が必要。
#E7B132
きよた
理知
だけ
で割
り切
って
いる
と
Backend
DB
・Redis
・MongoDB
・Pinecone
CI/CD
・Github + Fargate(Docker) on AWS
#E7B132
きよた
他人
と衝
突す
るし
、個
人的
な
DB
・Redis （KVS）
チャットの直近のコンテキストやヒストリ
のキャッシュコントロール用�
・MongoDB （DocumentDB）
設定の管理やサービスを動作させるためのもの
・検証中 Pinecone（VectorDB）
BertかOpenAIでEmbeddingsを生成し、
セマンティックサーチをする。
#E7B132
きよた
感情
を優
先さ
せれ
ば、
LLM（Large Language Model)
世の中には沢山のLLMがある。
gpt-3.5-turbo を選択
Hugging Faceなどにある、フリーのものだとそれを動かすマシーンが必要。
OpenAIのAPIは、ビジネスモデルの設計がまだやりやすいかも。
#E7B132
きよた
足元
をす
くわ
れて
しまう。
LLMのハンドリング
Langchainを利用、Langchainは強力なツールで、色々なことを少ないコードで実現できる。
一方、更新が早いのでドキュメントが古い時があり技術力が求められ、複雑なものでなければ、自前で実装してもよいかも。
#E7B132
きよた
考え
るな
、感
じろ
！！
Few Shot Learning or
Fine Tuning
Few Shot Learning
例題を与えたプロンプト
Fine Tuning
独自データによるLLMの振る舞いのカスタマイズ
#E7B132
きよた
己の
直感
を信
じ、
従え
！！
Few Shot Learning
レシピの生成だと難しい可能性高
#E7B132
きよた
大切
なも
のは
、買
えな
い。
Fine Tuning
幸いSnapdishには、数千万の投稿があり、その中に美味しいレシピがあるので、それを学習させてみて美味しいレシピを生成できるか検証中。
データセットを準備できるかが重要！
#E7B132
きよた
そん
なに
答え
が欲
しい
のか
？
Research
さらにプロンプトエンジニアリングの検証をやっていきたい。
ハイコンテキストな日本語とローコンテキストな英語とでの差があるので、その辺り調査したい。
あと、好みの美味しいレシピの生成がどうやったらできるかも検証したい。
#E7B132
きよた
答え
？知
って
どう
するの？
最後に
熊本でやりたいこととして、オープンソースプロジェクトを立ち上げたい。
昨今、色々と懸念されるLLMの「やばさ」もありますが、LLM文脈で便利なオープンソースを一緒に作りませんか？
興味のある方、声かけてね。
#E7B132
きよた
友達
１０
０人
でき
るか
な？
ご清聴ありがとうございました！
現在、熊本での友達募集中。
一緒に、飲みに行きましょう！