Semana passada, Antrópico anunciado estava restringindo o lançamento inicial de seu modelo Mythos Preview a “um grupo limitado de parceiros críticos da indústria”, dando-lhes tempo para se prepararem para um modelo que, segundo ela, é “notavelmente capaz em tarefas de segurança de computadores”. Agora, o governo do Reino Unido Instituto de Segurança de IA (AISI) publicou uma avaliação inicial das capacidades de ataque cibernético do modelo isso adiciona alguma verificação pública independente a esses relatórios antrópicos.
As descobertas da AISI mostram que o Mythos não é significativamente diferente de outros modelos de fronteira recentes em testes de tarefas individuais relacionadas à segurança cibernética. Mas a Mythos poderia se diferenciar dos modelos anteriores por sua capacidade de encadear efetivamente essas tarefas em uma série de ataques em várias etapas necessárias para se infiltrar completamente em alguns sistemas.
“Os Últimos” finalmente cai
AISI tem colocado vários modelos de IA em projetos especialmente projetados Desafios de Capture a Bandeira desde o início de 2023, quando GPT-3.5 Turbo lutou para completar qualquer uma das tarefas de “Aprendiz” de nível relativamente baixo do grupo. Desde então, o desempenho dos modelos subsequentes aumentou de forma constante, a tal ponto que o Mythos Preview pode completar mais de 85% das mesmas tarefas CTF de nível Aprendiz.
Leia o artigo completo
Comentários
Leave a comment