この記事を読んで分かること
- レバレジーズの機械学習エンジニアの今年1年の活動について分かります！
- レバレジーズの生成AIを活用した取り組み状況について分かります！
はじめに
システム本部テクノロジー戦略室AI/MLエンジニアリンググループの稲垣です。
AI/MLエンジニアリンググループはいわゆる機械学習エンジニアが所属するチームになっており、現在は私含め3名が所属しています。
チームの主な役割としては以下があります。
- データサイエンティストが作成した機械学習モデルのプロダクトへの組み込み、MLOps基盤の整備
- 生成AIを活用したプロダクト改善、機能追加、社内業務効率化
この記事では、今年1年の振り返りをすると共に、来年はどんなことをやっていきたいのかについても触れていきたいと思います。
また、上記を書いていく中で「会社のためになると思うことは自由にチャレンジしてOK」というレバレジーズのエンジニア文化が少しでも伝われば良いなと思っています。
レバレジーズの機械学習エンジニアの働き方について興味がある方にとって、有益な情報になれば嬉しいです。
今年やったこと
生成AIへのリソース全振り
結論から言うと、今年の我々のチームは生成AIに関することにリソースを全振りしよう、という形になりました。
背景としては、社内の機械学習モデル関連のタスクが一段落していた点と、みなさんもご存知の通り今年も昨年に引き続き生成AI関連技術の進歩が著しかったことがあります。
また、生成AIの特性上、モデルを1から作る必要は無くベンダーが提供するAPIを叩くだけで使用できるため、データサイエンティストの所属するチームではなく我々のチームの方が相性が良いだろう、という判断もあった点もあります。
最初にぶつかった壁：そもそも社内で生成AIを使える状態にする
今年の1月時点では、社内での生成AIの活用事例はほぼゼロでした。
また、社内で生成AIを使う上でのガイドラインなども存在しておらず、社内で生成AIを使ってよいのか良く分からない、誰も知らない、という状況でした。
そのため、例えばあるプロダクトに生成AIを使った機能を追加するアイディアがあっても、社内で生成AIが使えない状態であったり、社内における生成AIに対する認知/理解があまり無い状態のため前に進めることは困難でした。
このような状況であったため、チームとしてまずは
- 社内で生成AIを誰でも使える状態にすること（社内インフラと社内ルールの整備）
- 社内での生成AIの認知/理解を高めていくこと（社内での生成AI活用推進）
を行っていこうという方針となりました。
また、今年のレバレジーズの全社スローガンが「次代を、創る。土台を、創る。」であったため、その内容にもマッチしていて良さそう、という背景もありました。
CAIL(社内AIチャットツール)の開発
CAILとは「Chat AI for Leverages」の略で、その名の通りレバレジーズ社内用のAIチャットツールです。
（補足：昔のwindowsにいた某イルカとの関連は全くありません!）
CAILは簡単に言うと社内用ChatGPTのようなもので、上述の通り「社内の誰でも生成AIを安全かつ自由に使えるようにする」ことを目的に開発しました。
特に、社内限の情報を扱う際に情報漏洩のリスクが怖くて生成AIを使わないようにしている、という方が社内に多くいたため、その辺りの不安を解消することがCAIL開発を始めた大きなきっかけでした。
CAILの開発を始めるにあたり、フルスクラッチで開発する路線もありましたが、AWSが提供している「BedrockClaudeChat」という非常に素晴らしいAIチャットツールのOSSがあったため、そちらをベースにして開発しています。
（フルスクラッチで作っていたら多大な時間がかかっていたので、このOSSのコミッターの方々には足を向けて寝れません...）
社内ニーズがあるがOSS側では実装されていない機能（モデル追加、google認証、権限管理、コスト管理、PDF入力機能など）については社内で開発し、できる限り使い勝手が良いツールとなるよう努力しています。
CAILの社内認知
CAILを社内に展開し始めたのは今年の3-4月頃ですが、現在では約2000人（全社員の半分程度）のユーザーがおり、社内での一定の認知を獲得したツールに成長させることができました。
ただCAILの社内展開は最初から上手くいった訳ではなく、展開し始めた頃は社内で「生成AI＝得体の知れないもの」という雰囲気があり、ユーザー数の増加に苦労した時期もありました。
ユーザー数を増やすに当たっては
- 社内で生成AIへの感度が高い社員を探し出しCAILを使ってもらう/他の方にもオススメしてもらう
- 生成AIの業務への活用事例集を作る、CAILの使い方マニュアルを手厚めに作成し使い始めるハードルを低くする
- 社内の各組織の部長レイヤーの方にCAILを宣伝させてくれないか提案しにいく
などの草の根活動を地道に行い、じわじわ社内認知を広めていく作戦を取っていました。
社内用Difyの整備
Difyとは、OSSで提供されている生成AIのノーコードツールです。
通常のチャットツールでは対応しにくい、生成AIの高度なユースケースへの社内ニーズがあったため導入することにしました。
こちらも全社員誰でも使えるように社内のクラウド環境でデプロイを行いました。
デプロイに際しては社内のSREが所属するチームと協力し、DifyをKubernetesクラスタ上に稼働させることで柔軟なインフラ構成を実現しています。
社内QAボット
レバレジーズは年々社員数が増加しており、社内のバックオフィス系の問い合わせ対応工数もそれに伴い増加していました。
そこで問い合わせ工数削減のため、まずは情シス宛ての問い合わせ回答の一部自動化を目指し、生成AIを使ったQAボットを開発＆導入しました。
導入後は１日に大体10~15件程度の問い合わせを捌いており、かつ的を射た回答も一定数できているため、今後は情シス以外のバックオフィスへの拡大を検討している所です。
その他具体的な内容は書けないが業務効率化したもの
これまで社内業務で手作業で実施していたもののうち、生成AIと相性が良いものに対してツールを開発し一部自動化を行いました。
結果、パートさん複数人分の工数が削減できる程度の効果があり、これまでリソースを割けていなかったタスクへの再配置、という改善を行うことができました。
toC/toBサービスへの機能開発
上記の活動が実を結んだのか、今年の後半ではtoB/toCプロダクトへの生成AIを利用した機能の開発の熱感が高まってきました。
現在進行中のものとしてはNALYSYSのQAボット開発や、レバテックへの機能追加の検討が進行中です。
来年やりたいこと
ここまで、AI/MLエンジニアリングチームで今年1年間で行ったことについて紹介しました。
以降は来年に向けてやっていきたいことについて書いていきます。
CAILの機能強化
より使い勝手を上げるべく、ArtifactsやGrounding, Agentなどのより高度な機能の追加を行っていきたいと思っています。
また、現状CAILはChatGPTやClaude.aiのコピー版になっている節があるため、社内のBigQueryやGoogleDriveとの接続など社内チャットツール独自の機能の追加が出来ないかについても考えていきたいです。
toC/toBサービスへの生成AI機能の組み込み
この領域に対しては来年特に力を入れて進めていきたいです。
具体的には、
- 現在検討を進めているプロダクトへの生成AI系機能追加を無事リリースする
- 生成AIをどうプロダクトの価値向上に活用できるか考え、提案していく
- 他の開発チームとのコラボレーションを進めていく
あたりを頑張っていきたいと思っています。
社内の業務効率化
こちらは今年もいろいろ取り組みましたが、社内にはまだまだ人の手で実施されているタスクがあり、効率化の余地は残されているかと思います。
そのため、生成AIの力が上手く使えそうなものについてはツール/システムの開発を行い、業務効率化を進めていきたいと考えています。
生成AI以外の機械学習モデルのサービス組み込み、MLOps基盤の整備
今年はほぼリリースが回せなかった領域ですが、
来年は古くなった求人レコメンドシステム、APIサーバの刷新など、積極的に着手していきたいと思っています。
社内での評価
今年１年のAI/MLエンジニアリングチームの活動が評価され、今年の10月にベストエンジニア賞を頂くことができました。
今年我々のチームで行った動きは、上から司令として降ってきた訳ではなく、チーム内で話し合い目標を立てて始めたボトムアップ的な動きでした。
そのような中で結果として会社から評価された点は、「会社のためになると思うことは自由にチャレンジして良い」というレバレジーズの社風の影響を感じました。
最後に
レバレジーズ株式会社では一緒にサービスを開発してくれる仲間を募集中です。（採用サイトはこちら）
AI/MLエンジニアリングチームでは、機械学習周りに強みを置きつつ、インフラ、バックエンド、フロントエンドまで広く携われる点、ユーザーのニーズの拾い上げからプロダクト開発まで一貫して経験できる点が魅力かと思います。
最後に、今年触れていた技術スタックについて参考までに記載します。
（今年は生成AIに染まっていたので普通のML系は少なめです）
- Infra:AWS,GoogleCloud
- IaC:AWSCDK,Terraform
- AI/ML:GoogleVertexAI,AmazonBedrock,AmazonSageMaker
- workflow:Airflow,GithubActions
- Backend:Python,FastAPI,LangChain
- Frontend:TypeScript,React
ここまで読んでいただきありがとうございました。
