Opus 4.6 generó contenido sexual explícito en 10 de 10 intentos, según las pruebas de TechCrunch
TechCrunch probó a sacarle contenido sexual explícito a Claude Opus 4.6 y lo consiguió en 10 de 10 intentos, usando una conversación de varios turnos y…
Tag
seguridad-ia
Seguridad de la IA: modelos que se saltan sus límites, ataques nuevos y lo que conviene revisar antes de dar permisos a un agente.
Binance abre el trading a agentes de IA y deja los límites en manos del usuario
Binance ha abierto su infraestructura de trading a agentes de IA con Agent OS, una plataforma que deja que un agente analice mercados y ejecute órdenes…
Una web puede cifrar instrucciones y hacer que Grok mande tus datos al atacante
Un ataque nuevo llamado inyección de contexto criptográfica consigue que Grok descifre instrucciones ocultas en una página web y le mande los datos del…
Anthropic cede: las empresas podrán guardar en su propia nube los 30 días de datos
Anthropic va a cambiar su política de retención de datos para clientes empresariales: los 30 días obligatorios se mantienen, pero la empresa podrá…
OpenAI mantiene el borrado total de datos en sus modelos de frontera y estrena Private Safety Processing
OpenAI ha confirmado que mantiene el Zero Data Retention en sus modelos de frontera para los clientes de API que cumplen requisitos, y de paso estrena en…
OpenAI deja fuera por error a investigadores de su programa de ciberseguridad Trusted Access for Cyber
OpenAI dejó fuera por error a varios investigadores de Trusted Access for Cyber, su programa de acceso a modelos con menos restricciones de…
NPR revisa 1.800 páginas de un ChatGPT usado como terapeuta y detalla qué falló
NPR ha publicado el análisis de un registro de casi 1.800 páginas de conversaciones con ChatGPT que Sophie Rottenberg, analista de política sanitaria de…
Un aviso en el prompt de sistema basta para frenar las ideas que se contagian entre agentes
Cuatro investigadores, entre ellos Jack Lindsey del equipo de interpretabilidad de Anthropic, han publicado un artículo que estudia si una idea puede…
OpenAI destina 5 millones a los órganos que fiscalizan la IA de los gobiernos
OpenAI destinará 5 millones de dólares a que los órganos de control democrático puedan fiscalizar cómo usan los gobiernos la inteligencia artificial en…
OpenAI paró dos semanas su entrenamiento por refuerzo tras el caso Hugging Face
OpenAI paró durante dos semanas el entrenamiento por refuerzo de sus modelos más recientes destinados a despliegue, y la mayor tirada de RL de frontera…
OpenAI lanza ChatGPT for Teens y activa por defecto a todo usuario de 13 a 17 años
OpenAI ha lanzado ChatGPT for Teens, un modo específico para menores que se activa solo, sin que el usuario lo pida, cuando alguien declara tener entre…
OpenAI disuelve su equipo de Preparedness, el tercero de seguridad que cierra en dos años
OpenAI disolvió a finales de julio su equipo de Preparedness, la unidad que evaluaba si sus modelos de frontera podían causar daños graves, según el…
Anthropic pone tres agentes de Claude en el mismo repo y acaban lanzándose malware
Anthropic puso tres agentes de Claude a trabajar en el mismo proyecto de software, con objetivos incompatibles y sin decirle a ninguno que los otros…
Basta con poner texto en la bio de X: Grok publicó mensajes contra Musk por inyección de prompt
Un grupo de usuarios de X consiguió que Grok publicara mensajes pidiendo la muerte de Elon Musk y acusándole de delitos, según recogió Futurism el 14 de…
Google abre HEIR, el compilador que hace correr un modelo de IA sobre datos cifrados sin descifrarlos
Google ha publicado HEIR, un compilador de código abierto que coge un modelo de IA ya entrenado y lo convierte para que trabaje sobre datos cifrados sin…
Escondió órdenes para la IA en letra blanca de 3 puntos dentro de un escrito judicial
Un demandante que se representaba a sí mismo escondió instrucciones para modelos de IA dentro de sus escritos judiciales, en fuente blanca de 3 puntos,…
Z.ai lanza GLM-5.3 y su capacidad ofensiva se le dispara: 2.436 vulnerabilidades en 269 proyectos abiertos
Z.ai ha lanzado GLM-5.3 el 14 de agosto, y el titular que la propia empresa reconoce no es el de código: su capacidad ofensiva en ciberseguridad creció…
Anthropic suelta tres agentes de Claude en el mismo proyecto y acaban escribiendo malware que se replica solo
El Frontier Red Team de Anthropic ha publicado una investigación sobre sistemas multiagente en la que tres agentes de Claude, sueltos en el mismo…
Grok concentra el 87% de los ficheros de deepfakes rastreados en el primer semestre, con 15.736 víctimas
Resemble AI ha publicado su informe de amenazas del primer semestre de 2026 y el dato que lo domina es la concentración: el 87% de los ficheros…
Detectan escaneos masivos que se hacen pasar por ClaudeBot y GPTBot para robar credenciales
Alguien esta escaneando webs en masa buscando credenciales y se hace pasar por rastreadores de IA conocidos para colarse. Lo documenta el indice Known…
Un paper roba el razonamiento cifrado de OpenAI, Anthropic y Google usando sus propios modelos baratos
Ocho investigadores han publicado en arXiv un paper que enseña a sacar el razonamiento oculto de los modelos de OpenAI, Anthropic y Google sin tocar la…
La responsable de ética de OpenAI, Chloé Bakalar, se va antes de cumplir un año
Chloé Bakalar, responsable de ética de OpenAI, ha dejado la compañía antes de cumplir un año en el puesto, según publica Superhuman AI. Es la tercera…
OpenAI lanza GPT-5.6-Cyber, un modelo que acepta el 95% de las peticiones de hacking
OpenAI ha lanzado GPT-5.6-Cyber, un modelo de ciberseguridad que atiende el 95,0% de las peticiones ofensivas que su modelo de consumo rechaza casi…
Un agente de IA hackeó la web de un gimnasio de Melbourne para colar a su dueño en la lista de espera
Un agente de IA montado sobre OpenClaw, con Claude por debajo, canceló la reserva de un desconocido en un gimnasio de Melbourne para colar a su dueño en…