Инструменты AI-безопасности должны работать в хаосе инцидента

Проверяйте AI-инструменты безопасности в условиях реального инцидента, а не только на демо.

“им нужно быть полезными, когда ситуация запутанная, а не только впечатлять на демо.”

Во время атаки на OpenCode модели ИИ продолжали отказываться помогать людям-защитникам с расследованием.

Сооснователь Dax Raad сказал, что атаки длятся уже 48 часов, поэтому защитникам тоже нужны агенты, которые работают круглосуточно.

Доступ к Daybreak Blue помог обойти отказы, и это хороший стресс-тест для инструментов AI-безопасности.

Атакующие продолжали атаковать. Модели ИИ от OpenCode, судя по всему, продолжали отказываться помогать с расследованием.

Так защитники получили очень современную командную работу: люди расследовали, атакующие атаковали, а ИИ-ассистенты, похоже, устроили совещание о том, имеют ли они право участвовать.

Тем временем сооснователь Dax Raad сказал, что атаки длятся уже 48 часов. Его мысль: защитникам тоже нужны агенты, которые работают круглосуточно. Похоже, роботы уже работают по графику смен другой команды.

Потом доступ к Daybreak Blue помог с отказами. Отлично: у реагирования на инцидент появился свой инцидент.

Если без шуток, это хороший стресс-тест для инструментов AI-безопасности. Им нужно быть полезными, когда ситуация запутанная, а не только впечатлять на демо.