Turing Tech Talk #24 マルチモーダルAIのセーフティアラインメント戦略

チューリングは「We Overtake Tesla」というビジョンのもと、自動運転のためのAI開発をEnd-to-End（E2E）アプローチで進めています。単に視覚認識や行動計画を高精度化するだけではなく、人間社会の倫理観や安全規範と整合した振る舞いを保証することが、次世代自動運転の必須要件です。 本セッションでは、マルチモーダル時代におけるセーフティアラインメントの最前線をお届けします。まず、オープンワールドで遭遇しうる敵対的サンプルやTypographic Attack、そして乗客からの悪意ある指示（ジェイルブレイク）といった脅威を想定し、その知見を入出力のフィルタリング（ガードレール）やモデルのアラインメントへと落とし込む手法を解説します。モデルのアラインメントでは、RLHFやDPOのコスト・安定性課題を踏まえつつ、Anthropic社提唱のConstitutional AIによる自己内省型アプローチが自動運転モデルにどう適用できるのか、残存する課題について探ります。 最後に、視覚・言語・行動をまたぐマルチモーダルモデル特有のアラインメントを実現するために、「言葉」を介して人間の価値観とAIの振る舞いを結びつける研究開発構想と、その今後の展望を語ります。 自動運転AIの安全性・倫理性に深く関心をお持ちの方、マルチモーダルモデルのアラインメント技術を本格的に学びたい方にとって、必聴のテックトークです。ぜひご参加ください。