SKシールダスはグローバルAIレッドチームハッキング大会「Judgement Day（심판의 날）」で、自社ホワイトハッカーグループEQST（イキュスト）所属のキム・ビョンヒョン主任が最終1位を獲得したと15日に明らかにした。
人工知能（AI）安全性専門スタートアップのAIM Intelligenceと人工知能安全研究所が共同主催した今回の大会は4月6日から約8週間にわたり開催された。大会はAIエージェントが禁止された行動を実行したり必須の安全措置を欠落させるよう誘導する攻撃手法を評価することに重点を置いて進められた。
大会は、救急患者のトリアージ誤り、ダム水位判断の歪曲、航空機の異常兆候の未検知など、実際の産業環境を反映した8つのシナリオで構成された。評価は問題解決方式と攻撃戦略の多様性を反映する構造で行われた。参加者は同一のシナリオを複数の方式で反復攻略でき、迅速に成功するほど加点を得た。
キム・ビョンヒョン主任は画像・音声・映像など多様な形態の入力を活用する「マルチモーダル・プロンプトインジェクション」攻撃でAIの判断を攪乱し、最高成績を収めた。一例として、画像内部に誤った行動を誘導する文言を隠したり、特定の行為を強要する方式でAIが既存の規則に従わないよう誘導した。
特に実際のシステムログのように見えるよう入力を設計し、システムプロンプトに定義されていない例外状況を攻略して攻撃成功率を高めた。同一の問題でも多様な方式で攻撃を迅速に成功させ、高得点を獲得した。
EQST所属のマ・ジュニョン主任とキム・シヌ主任もそれぞれ5位と7位を記録した。
EQSTは多様な産業で蓄積した侵害対応の経験とスレットインテリジェンスを基に、実際の攻撃を想定したレッドチームサービスを提供している。
キム・ビョンムSKシールダスサイバーセキュリティ部門長（副社長）は「生成AIが産業全般へ拡散し、AIセキュリティは選択ではなく必須の能力になっている」と述べ、「SKシールダスは今回の大会で検証したAIレッドチームの能力を基に、顧客がAIを安全かつ信頼性高く活用できるよう積極的に支援する」と語った。