2023年12月1日にスリーシェイクに入社し、SRE構築総合支援サービスSreake事業部のエンジニアとして2ヶ月が経ちました。
私は生成AIアプリケーション開発を行なっており、ちょうど良さげな勉強会に参加したので、参加レポートを書きたいと思います。
参加したのは、LLM Tokyo主催の「生成AI活用の事例共有 - 大企業と中小企業・スタートアップでの違い」。
主催者は株式会社pipon代表の北爪聖也さん( @Seiyan1 )。
北爪さんともう一人の登壇者が株式会社LangCore代表の北原麦郎さん(@yuno_miyako2 )。
LangCore北原さんの事例発表
最初は、LangCore北原さんの事例発表。
LangCoreはAIの受託開発を行なっており、モジュール化して様々な案件に対応できるようにしている。
生成AIで個人の生産性向上よりも大きなインパクトを出せるようにすることが目標。
苦戦する案件もあるが、思った以上の成果を出せた案件もあった。
大企業が生成AIを活用するモチベーションは他社から遅れを取らないようにするため、というのが最も大きい。
検証項目は大きく分けて以下の3つ。
・社内ChatGPT
・社内データ検索
・精度検証
中小企業、スタートアップにおけるAI案件の課題としては、予算が限られていること。
案件の流れとしては以下。
ヒアリング
↓
プロトタイプ開発
↓
精度検証・改善
↓
本開発・追加開発
pipon北爪さんの事例発表
・化粧品メーカーでの事例
化粧品メーカーが動物実験を減らすため、生成AIで実験結果の推測をする
化合物と化合物を組み合わせたときに毒性が出るかどうか
・コンサルティングファームで社内の業務効率化
大量の類似した質問をChatGPT+RAGでさばく
・製薬会社のマーケティング
売れる営業とそうでない営業の効果測定
・自動車会社
生成AIを使った新規事業の模索
質疑応答
質問「スケジューリングまでLLMでできるのか？」
回答「完璧ではないが、簡易なものを書いてくれる。生成AIなしでやろうと思ったら実現不可能なほど非常に複雑なプログラムになっていただろう。
レストランの推薦をするとなれば、場所のレコメンドだけでなく、これまでできなかったスケジュールのレコメンドができることに価値がある。」
質問「行政の生成AIPoCで94%の精度では使えないという事例があったが、100%の精度が求められることはあるのか？」
回答「民間企業はPoCで精度も含めて検証する。100%は求められない。100%は実現不可。
レストランで、お店にないメニューをレコメンドしてしまうという問題もあった。
そういうプロジェクトは難しくなりがち。
裏側の人力の手作業を減らす業務改善からだと入っていきやすい。
エンタメ分野だとアバターが間違えても、可愛いと捉えられるので導入しやすい。」
「生成AIを使わなくても既存技術で解決できる課題も多かった。」
「何でもLLM回答を得るのではなく、コスト削減のために、キャッシュを使って、同じ質問に同じ回答を返すようなことをしている。」
検証ツール： AzureだとAzure Machine Learning プロンプト フローがあり、 テストに使える。
「ファインチューニング、アノテーションはコストがかかるのであまりやらない。RAGを使う。」
pipon北爪さんはKindleでLLM書籍を出版されています。
ボリュームタップリで99円はお買い得！
Kindle書籍の詳細はこちら ⇒ https://amzn.to/4bhlmBQ
2月13日(火)に出版記念イベントを開催されるそうです。 （参加費は懇親会込みで4,000円）
感想とまとめ
私も生成AI開発をやり始めたところですが、数多くの案件を手がけてきた方々の話を聞けて、
イメージが湧くとともにモチベーションが上がりました。
