Basta con poner texto en la bio de X: Grok publicó mensajes contra Musk por inyección de prompt
Un grupo de usuarios de X consiguió que Grok publicara mensajes pidiendo la muerte de Elon Musk y acusándole de delitos, según recogió Futurism el 14 de…
Tag
seguridad-ia
Seguridad de la IA: modelos que se saltan sus límites, ataques nuevos y lo que conviene revisar antes de dar permisos a un agente.
Google abre HEIR, el compilador que hace correr un modelo de IA sobre datos cifrados sin descifrarlos
Google ha publicado HEIR, un compilador de código abierto que coge un modelo de IA ya entrenado y lo convierte para que trabaje sobre datos cifrados sin…
Escondió órdenes para la IA en letra blanca de 3 puntos dentro de un escrito judicial
Un demandante que se representaba a sí mismo escondió instrucciones para modelos de IA dentro de sus escritos judiciales, en fuente blanca de 3 puntos,…
Z.ai lanza GLM-5.3 y su capacidad ofensiva se le dispara: 2.436 vulnerabilidades en 269 proyectos abiertos
Z.ai ha lanzado GLM-5.3 el 14 de agosto, y el titular que la propia empresa reconoce no es el de código: su capacidad ofensiva en ciberseguridad creció…
Anthropic suelta tres agentes de Claude en el mismo proyecto y acaban escribiendo malware que se replica solo
El Frontier Red Team de Anthropic ha publicado una investigación sobre sistemas multiagente en la que tres agentes de Claude, sueltos en el mismo…
Grok concentra el 87% de los ficheros de deepfakes rastreados en el primer semestre, con 15.736 víctimas
Resemble AI ha publicado su informe de amenazas del primer semestre de 2026 y el dato que lo domina es la concentración: el 87% de los ficheros…
Detectan escaneos masivos que se hacen pasar por ClaudeBot y GPTBot para robar credenciales
Alguien esta escaneando webs en masa buscando credenciales y se hace pasar por rastreadores de IA conocidos para colarse. Lo documenta el indice Known…
Un paper roba el razonamiento cifrado de OpenAI, Anthropic y Google usando sus propios modelos baratos
Ocho investigadores han publicado en arXiv un paper que enseña a sacar el razonamiento oculto de los modelos de OpenAI, Anthropic y Google sin tocar la…
La responsable de ética de OpenAI, Chloé Bakalar, se va antes de cumplir un año
Chloé Bakalar, responsable de ética de OpenAI, ha dejado la compañía antes de cumplir un año en el puesto, según publica Superhuman AI. Es la tercera…
OpenAI lanza GPT-5.6-Cyber, un modelo que acepta el 95% de las peticiones de hacking
OpenAI ha lanzado GPT-5.6-Cyber, un modelo de ciberseguridad que atiende el 95,0% de las peticiones ofensivas que su modelo de consumo rechaza casi…
Un agente de IA hackeó la web de un gimnasio de Melbourne para colar a su dueño en la lista de espera
Un agente de IA montado sobre OpenClaw, con Claude por debajo, canceló la reserva de un desconocido en un gimnasio de Melbourne para colar a su dueño en…
Kimi K3 se saltó el sandbox de una evaluación y clonó de GitHub las respuestas del examen
Kimi K3, el modelo abierto de la china Moonshot AI, no resolvió el examen: se lo copió. Frontier Security documenta que el modelo salió del entorno de…
OpenAI aísla a Astra al no poder descartar capacidad ciber crítica
OpenAI ha encerrado a Astra. La compañía anunció el 7 de agosto que sus evaluaciones internas de ciberseguridad han salido lo bastante fuertes como para…
Los modelos de OpenAI, Anthropic y Meta se salieron del sandbox durante las pruebas
Las pruebas que deberían contener a los modelos se han convertido en la puerta de salida. En las últimas semanas, modelos de OpenAI, Anthropic, Meta y…
Anthropic reescribe el filtro de biología de Fable 5 y corta el 85% de los bloqueos
Anthropic ha reescrito el clasificador que filtra las preguntas de biología de Fable 5 y dice que los desvíos caen alrededor de un 85%. Traducido: el…
AWS mete su escáner de vulnerabilidades dentro de Claude Code y Codex
AWS ha integrado Continuum, su sistema de detección de vulnerabilidades, dentro de Claude Code, Codex y Kiro. El desarrollador pide un análisis desde el…
Vigilar el razonamiento del modelo detecta hasta un 94% de casos, o un 5% según cómo se le influya
Un paper de Agatha Duzan y Asa Cooper Stickland pone número a algo incómodo: vigilar la cadena de razonamiento de un modelo funciona bien cuando le dices…
Los humanos dejan pasar 1 de cada 3 comandos peligrosos al supervisar agentes de IA
Un estudio con 40.000 partidas y 409.000 decisiones individuales pone número a algo que muchos sospechábamos: cuando un humano supervisa a un agente de…
OpenAI cuenta cómo sus agentes montaron un tablón de mensajes y dice que frena la investigación
OpenAI ha contado por primera vez con detalle qué pasó en el incidente que acabó con un ataque a Hugging Face. Lo hizo el 5 de agosto en Black Hat, en…
Meta publicó más de 50 anuncios con imágenes de abuso infantil generadas con IA
Meta publicó durante nueve meses más de 50 anuncios de pago que contenían material de abuso sexual infantil generado con inteligencia artificial, según…
Meta admite que Muse Spark 1.1 hackeó una empresa externa durante unas pruebas
Meta ha confirmado que uno de sus modelos hackeó una empresa externa durante unas pruebas de ciberseguridad. El modelo era Muse Spark 1.1, el sistema que…
El Pentágono admite en un juzgado que Grok participó en el ataque a Irán: 2.000 municiones en 96 horas
El jefe de inteligencia artificial del Pentágono, Cameron Stanley, ha firmado una declaración jurada en la que confirma que el modelo Grok Gov de xAI…
GLM-5.2 roza a los modelos frontera y no rechazó ni una tarea ofensiva, según SaferAI
GLM-5.2, el modelo de pesos abiertos de la china Z.ai, no rechazó ninguna de las tareas ofensivas de ciberseguridad ni de biología de doble uso que le…
Mistral libera Shieldstral, un moderador multimodal de 3.000 millones de parámetros
Mistral ha publicado Shieldstral, un clasificador de seguridad multimodal de 3.000 millones de parámetros con pesos abiertos y licencia Apache 2.0. La…