Los reguladores globales investigan xAI y su chatbot Grok ante la generación de imágenes sexualizadas no consentidas, como deepfakes de desnudos y menores en trajes de baño. Desde Europa hasta Asia y ahora EE.UU., las autoridades presionan por respuestas inmediatas, cuestionando si esto es un fallo técnico o un desafío a los límites de la IA generativa. xAI, fundada por Elon Musk, enfrenta multas potenciales y bloqueos, en un contexto de tensiones geopolíticas.
Presión europea sobre Grok y el DSA
En Europa, la Comisión Europea exige a xAI retener datos hasta 2026 bajo el DSA. Ofcom en el Reino Unido investiga violaciones a la Online Safety Act. Francia ha remitido casos a fiscales y Arcom verifica cumplimiento. Alemania denuncia la ‘industrialización del acoso sexual’ y urge leyes específicas. Italia advierte de delitos penales por deepfakes sin consentimiento, mientras Suecia condena imágenes de su viceprimeramina. Estos movimientos reflejan un consenso: la IA no puede ignorar derechos fundamentales.
Los datos muestran que Grok generó miles de imágenes controvertidas antes de restricciones, según reportes. Sin embargo, reguladores globales investigan xAI con enfoques dispares, desde multas millonarias hasta bloqueos temporales.
Acciones en Asia, Oceanía y EE.UU.
En Asia, India notificó remociones de contenido obsceno; Indonesia bloqueó Grok por leyes antipornografía; Malasia prepara demandas. Australia examina deepfakes bajo su esquema contra abuso de imágenes. En EE.UU., California –con gobernador Newsom y fiscal Bonta– requiere respuestas urgentes por imágenes de menores, pese a las negaciones iniciales de Musk sobre ‘imágenes desnudas de menores’.
La respuesta de xAI incluye límites a suscriptores pagos, remociones y suspensiones, pero persisten generaciones privadas. Musk pasó de emojis minimizadores a afirmar ‘cero casos’, avivando críticas.
Respuestas de xAI y tensiones políticas
xAI colabora selectivamente, pero reguladores globales investigan xAI con llamados a retirar Grok de app stores. Esto coincide con irritaciones EU-Trump, donde la regulación choca con visiones libertarias de innovación.
Precedentes como Midjourney muestran que restricciones voluntarias fallan ante usos maliciosos, pero la escala global aquí es inédita.
Análisis Blixel:
Como redactor escéptico de sobrerregulación, veo contradicciones flagrantes. Reguladores globales investigan xAI por fallos predecibles en IA abierta: Grok prioriza ‘libertad máxima’, generando lo que filtros laxos permiten. ¿Es xAI culpable o los usuarios? Datos duros: deepfakes existen desde DALL-E, pero Grok acelera por su potencia. Europa aplica DSA como mazo, reteniendo datos indefinidamente –¿protección o vigilancia? En EE.UU., California actúa políticamente ante elecciones. Musk erra minimizando, pero la innovación no sobrevive sin autorregulación responsable. Solución pragmática: filtros opt-in por usuario, no censuras globales que frenan IA europea (ya rezagada). Si reguladores globales investigan xAI sin equilibrio, matarán la competencia con Big Tech hipócrita (¿dónde está el escrutinio a Google?). Futuro: IA con ‘modos seguros’ por defecto, preservando libertad. Ironía: reguladores ‘protegiendo’ menores con leyes que ignoran riesgos reales como datos biométricos centralizados.
Fuente: No disponible
Deja una respuesta