レッドチームとは
公開前のAIをわざと攻撃し、危険な回答や悪用の穴を探す専門チーム・工程。主要各社が公開前の必須プロセスにしている。
たとえるなら — 新築ビルに泥棒役を招いて、侵入できる穴を先に見つけてもらう。
研究リスクと安全性red teamレッドチーミング
「レッドチーム」が出てきたニュース
- OpenAI、防衛AI開発のHacktronと提携 自社システムの弱点検証を強化
- サイバー攻撃の事前検証向けに制限を解除したAIが登場、画像や長文分析に対応
- FlashLabs、安全検証向けに回答制限を解除したAIの提供を開始
- 仏ミストラルAI、プログラム作成とサイバー防御に強い1兆規模モデルを一般公開
- 防御テスト向けに制限を外したAIモデル公開、48時間限定で無料提供へ
- 7600億規模の巨大AIを1台のPCで動かす軽量版、安全制限を外し公開
アプリなら毎朝1件、注目のAIニュースが届きます
アプリなら、記事を読みながら分からない用語をその場でタップして確認できます。
