Usan Claude para atacar sistemas de OpenAI
Investigadores usaron Claude de Anthropic para atacar sistemas de OpenAI y exponer riesgos de seguridad cruzada entre modelos de IA en empresas.
Categoría: Seguridad y Riesgos
-
-
Alianza para auditar modelos de IA de codigo abierto
La nueva alianza de seguridad para modelos de IA de codigo abierto une a Base Labs, Hugging Face y Goodfire para crear herramientas auditables.
-
Un marco para reportar cuando la IA se desalinea
El nuevo marco para reportar desalineacion de modelos propone metodos para detectar y documentar comportamientos indeseados en sistemas de IA.
-
Anthropic y OpenAI abren sus modelos a auditores externos
La evaluacion de seguridad externa de modelos de IA llega a Anthropic y OpenAI, pero los auditores dudan de su independencia real. Te contamos por que.
-
Los labs de IA piden auditar antes de cerrar sus puertas
La auditoria externa de modelos de IA gana adeptos, pero los expertos avisan: Anthropic, OpenAI y Google deberian arreglar antes su seguridad de red.
-
OpenAI, Anthropic y Google negocian reglas de seguridad
Las conversaciones de seguridad en IA entre OpenAI, Anthropic y Google podrian fijar estandares que afecten el despliegue de modelos en empresas.
-
AIUC capta 40M para certificar agentes de IA
La auditoria de seguridad de agentes IA llega con AIUC-1: 5.000 pruebas y 40M de financiacion para certificar agentes antes de su despliegue.
-
Abnormal detecta amenazas de email con agentes de IA
La seguridad de email con agentes de IA de Abnormal procesa miles de millones de mensajes diarios usando Amazon Bedrock AgentCore. Asi funciona.
-
Investigadores dejan la IA por miedo al riesgo existencial
El riesgo existencial de la IA hace dimitir a investigadores de Anthropic justo cuando el sector se prepara para salir a bolsa. Analisis del debate.
-
Un investigador deja Anthropic y avisa: vamos muy rapido
La dimision en Anthropic por riesgos de superinteligencia llega justo antes de su salida a bolsa. Que revela sobre la presion del mercado en la IA.
-
AWS lanza herramientas para vigilar agentes en produccion
El monitoreo de agentes de IA en produccion gana terreno con AWS DevOps Agent y AgentCore Evaluations. Metricas de latencia, precision y comportamiento.
-
Los agentes de IA tambien ‘odian’ los CAPTCHAs
El comportamiento de agentes de IA ante CAPTCHAs revela sesgos emergentes no programados. Que ha visto Anthropic y por que importa para tu seguridad web.