Faber Company 新規開発ラボチームで研究開発に携わっている稲岡です。
弊社が協賛する 2024年度人工知能学会全国大会 (JSAI2024) が5月28日～31日に浜松市で開催されました。
本記事ではその中で稲岡が特に注目したAI研究をご紹介します。
注目した研究
コピーライターの思考プロセスを用いたFine-Tuning手法の提案および評価実験
原稿は以下から確認できます。
この研究は、広告キャッチコピーの作成においてコピーライターがChatGPTを用いることでどのように品質が変化するかを評価しています。 人手およびChatGPTを用いて作成したキャッチコピーに「心が動く」「新しい発見」「時代性がある」「意外性がある」「チャーミング」「納得性がある」の6つのグループ項目評価と総合評価を実施しています。 評価の結果、素のChatGPTを使った場合は総合評価が低下し、項目評価も向上しませんでした。 そしてChatGPTを「伝えたいこと」「キャッチコピー」「伝えたいことからキャッチコピーに至る理由（思考プロセス）」でファインチューニングすることで、総合評価と項目評価の両方が向上しました。 なお総合評価がもっとも高かったキャッチコピーは、コピーライターがChatGPTを使わずに作成したものでした。
大規模言語モデル (LLM) のファインチューニングは広く行われていますが、思考プロセスを出力として学習させる手法は新鮮に感じました。 専門家の知識をAIに組み込む方法として広く応用できそうです。
RLHFにおける分布シフトの評価
原稿は以下から確認できます。
大規模言語モデル (LLM) などの生成モデルを人間の選好に合わせて強化学習する手法として、RLHF (Reinforcement Learning from Human Feedback) があります。 RLHFでは、生成モデルの出力に人間の選好を付与することで構築した選好データセットを用いて報酬モデルを学習し、その報酬モデルを用いて生成モデルを強化学習 (Proximal Policy Optimization; PPO) します。 こちらの研究では、選好データセットとして外部の公開データセットなどを用いることによって生じる分布シフトがRLHFにどの程度悪影響を与えるのかを評価しています。 評価の結果、分布シフトが性能を低下させることが確認され、選好データセットを作成した言語モデルの性能が良いほどその影響が軽減されることがわかりました。
RLHFのように人間のフィードバックをモデルに反映させる手法は今後さらに注目されると予想されることから本記事で取り上げました。
SBERTを用いたコールドスタート推薦のためのハイブリッドベース商品埋め込み手法
原稿は以下から確認できます。
この研究では、ショッピングサイトなどの行動履歴をもとに商品を推薦する協調フィルタリングの課題であるコールドスタート問題に Sentence BERT (SBERT) を用いてアプローチしています。 過去のセッション情報から遷移前後の商品を正例、ランダムな商品を負例としたトリプレットを作成し、商品タイトルの埋め込み表現間のコサイン類似度をファインチューニングすることで、推薦されるべき商品間の埋め込みが近くなるような表現を学習しています。 評価の結果、ベースラインのコンテンツベース手法よりも精度面で優れており、過去の行動履歴を持たないコールドスタート商品においても精度向上が見られることが確認されました。
既存アイテムの分散表現はあらかじめ計算でき、新規アイテムの分散表現は他のアイテムの影響を受けないため、比較的軽量かつ高速に動作する汎用的な手法として適用範囲が広いことから本記事で取り上げました。
社内報告会
学会終了後、社内で参加報告会を開催しました。 報告会にはエンジニアだけでなくプロダクトオーナーやプロダクトマネージャーも参加し、プロダクトの価値向上につながる様々な議論やアイデアが飛び交いました。
Faber Company は一緒に働く仲間を募集しています
株式会社Faber Company にご興味のある方は、ぜひ採用サイトをご覧ください！
株式会社Faber Companyについて
「辺境の知から、“マーケティングゼロ”を実現する」をコンセプトに、企業のWebマーケティングを支援。2005年の創業以来、クライアント企業のSEO施策、コンテンツ制作などの事業を展開。2013年からSEOプラットフォーム「ミエルカSEO」の自社開発を開始し、2015年リリース。職人の手元を再現した「ツール」と高度専門人材による「リソース」支援を通じて、企業のマーケティング生産性を向上し、素晴らしい商品・サービスが、それを必要としている人に届く世界を実現する。
