InfoQは、規制産業でAIシステムのセキュリティとプライバシーを担当するシニアエンジニアやアーキテクトを対象とした5週間のオンラインコホートであるAI Security & Privacy Engineering Programの募集を開始しました。2つのコホートが予定されており、1つは8月26日開始、もう1つは10月14日開始で、いずれも少なくとも5年の経験を持つ実務者に限定されています。セッションは週4時間で、Practical Data Privacy（O'Reilly）の著者であるKatharine Jarmulがファシリテーターを務めます。

本番環境のAIに関するセキュリティとプライバシーの取り組みは、ほとんどが単一の企業内に閉じ込められており、意思決定をチェックする外部の声はほとんどありません。AIが実験段階からビジネスクリティカルな用途へと移行するにつれ、質問はより具体的になります。チームは、モデルに到達する機密データは何か、どの脅威をモデリングする価値があるか、ガードレールとサンドボックスはどこに属するか、そして自社の可観測性がサードパーティに発見される前に障害を検知できるかどうかを判断する必要があります。そのほとんどは比較対象がほとんどない中で行われており、このコホートでは、シナリオ、トレードオフ、意思決定を機密保持されたピアグループに提示します。毎週、参加者はQConトークからフレームワークを取り上げ、それを自社の実際のセキュリティまたはプライバシー上の意思決定に適用し、何がうまくいったか、何が失敗したか、何がまだ不確かなのかを他社・他業界のシニアエンジニアやアーキテクトと議論します。

Katharineは、信頼をめぐるリスクを強調します。「ビジネスクリティカルなタスクや組織にとって最も意味のある業務をAIに支援させたいなら、プライバシーとセキュリティの要件に直面することになります」と彼女は述べています。彼女は、よくある盲点を指摘します。行動と自動化に偏ったチームは、情報セキュリティとプライバシーの基本を飛ばしがちで、コンプライアンスはベンダーが対応すると想定することが多いのです。コホート終了後、参加者はAIアーキテクチャを見てリスクを特定し、どこから着手するかを決め、どのリスクが予防可能で、どのリスクが監視のみを必要とするかを判断できるようになるはずです。

この5週間のコホートでは、AIワークフローにおける機密データの取り扱いから、脅威モデリングとハンズオンでのレッドチーム演習（STRIDE、LINDDUN、Plot4AIなどの手法を使用）へ、そしてコントロールとサンドボックスへ、さらにArize Phoenixなどのツールを用いた可観測性と評価へ、最後にガバナンスと監査へと進みます。各ワーキンググループは、AI製品アーキテクチャの文書化されたリスク評価と緩和レポートをキャップストーンとして作成し、最も優れたものはInfoQで公開されます。

プログラムの費用は1コホートあたりUSD 1,470で、ほとんどの企業が専門能力開発の費用を償還しています。承認を求める必要がある人のために、「convince your boss」テンプレートが用意されています。

他にも2つのInfoQ Online Certification Programsが並行して実施されています。MLOps with Rayの著者であるHien LuuによるAI Engineeringは7月25日に開始し、RAGやコンテキストパイプライン、エージェント、評価、信頼性など、AIシステムをプロトタイプ段階から脱却させる内容を扱います。Building Micro-Frontendsの著者であるLuca MezzaliraによるArchitectureは8月13日に開始し、トレードオフとコミュニケーション、分散型意思決定、プラットフォームエンジニアリング、AIアーキテクチャの意思決定など、アーキテクチャの社会技術的側面を扱います。

完全なシラバスと登録は、AI Security & Privacy Engineering Programのページでご確認ください。

About the Author

Artenisa Chatziou