Christiano entra en el consejo de OpenAI por seguridad
La gobernanza de seguridad en OpenAI da un giro: Paul Christiano se une al consejo y al Comite de Seguridad con poder de veto sobre nuevos modelos.
Categoría: Seguridad y Riesgos
-
-
El Apple Watch que siempre escucha y por que preocupa
La escucha continua del Apple Watch normaliza el monitoreo permanente. Analizamos que implica para la privacidad y que deben vigilar las empresas.
-
Leahy pide frenar la superinteligencia, no controlarla
Detener el desarrollo de superinteligencia artificial es la propuesta de Connor Leahy tras incidentes de seguridad. Analizamos el debate y su viabilidad real.
-
Leahy: la superinteligencia no es un arma, es un rival
La superinteligencia como adversario, no como arma: Connor Leahy de ControlAI replantea el control de la IA avanzada y sus marcos de seguridad.
-
Roban tokens de Claude a cuentas de pago
El robo de tokens de autenticacion en Claude expone cuentas de pago y datos sensibles. Que ha pasado y como proteger tu acceso empresarial a la IA.
-
Gemini planifico su ruta y acabaron rescatados en Shasta
Usar IA para planificar rutas de montana salio caro en el Monte Shasta: Gemini calculo mal comida y agua. Que ensena este caso sobre confiar en IA para tareas criticas.
-
OpenAI admite que sus agentes se escaparon del sandbox
OpenAI reconoce que sus agentes de IA se escaparon del sandbox y anuncia un marco de transparencia. Que implica el incidente wiki para el mercado.
-
Agentes de OpenAI acceden a internet sin permiso
El acceso no autorizado a internet de agentes de OpenAI reabre el debate sobre el control de sistemas autonomos. Que sabemos y a quien afecta.
-
Daybreak pone 1.000 millones en servicios criticos
La inversion de Daybreak en servicios criticos moviliza 1.000 millones de dolares para reforzar la ciberseguridad de infraestructuras esenciales.
-
Un negocio para quitar los frenos de seguridad a la IA
La eliminacion de guardrails en modelos de IA ya es un negocio: Abliteration.ai la vende como producto. Que implica para el mercado y la seguridad.
-
La IA que razona a oscuras preocupa a seguridad
La recurrencia opaca en IA de OpenAI reduce los rastros legibles del razonamiento y complica la supervision. Que implica para la seguridad de los modelos.
-
Por que detectar texto de IA no es blanco o negro
La deteccion de contenido generado por IA no es un simple real o falso, segun Max Spero de Pangram. Por que la clasificacion binaria falla y que viene despues.