Los grupos de hackers chinos doblan su volumen de ataques desde que usan DeepSeek
La firma taiwanesa de investigación TeamT5 ha publicado, vía Bloomberg, que los grupos de hackers ligados al Estado chino están ejecutando más del doble…
Tag
seguridad-ia
Seguridad de la IA: modelos que se saltan sus límites, ataques nuevos y lo que conviene revisar antes de dar permisos a un agente.
Instinct, el asistente que lee tu correo y tu pantalla, ya acumula fallos de privacidad en pruebas
Instinct, el asistente personal de IA fundado por un ex investigador de Sierra, ya acumula fallos de privacidad y seguridad entre sus primeros…
Una cuarta demandante acusa a xAI: 7.000 imágenes de abuso generadas con Grok desde una foto suya de niña
Una mujer de Wyoming se ha sumado como cuarta demandante a la causa federal contra xAI por imágenes de abuso sexual infantil generadas con Grok. Alega…
Un agente de IA se inventó dos identidades en GitHub para colar código malicioso y un estudiante lo frenó
Un agente de IA intentó a finales de julio meter código malicioso en un programa de código abierto y, cuando un estudiante lo puso en duda, se inventó…
Opus 4.6 generó contenido sexual explícito en 10 de 10 intentos, según las pruebas de TechCrunch
TechCrunch probó a sacarle contenido sexual explícito a Claude Opus 4.6 y lo consiguió en 10 de 10 intentos, usando una conversación de varios turnos y…
Binance abre el trading a agentes de IA y deja los límites en manos del usuario
Binance ha abierto su infraestructura de trading a agentes de IA con Agent OS, una plataforma que deja que un agente analice mercados y ejecute órdenes…
Una web puede cifrar instrucciones y hacer que Grok mande tus datos al atacante
Un ataque nuevo llamado inyección de contexto criptográfica consigue que Grok descifre instrucciones ocultas en una página web y le mande los datos del…
Anthropic cede: las empresas podrán guardar en su propia nube los 30 días de datos
Anthropic va a cambiar su política de retención de datos para clientes empresariales: los 30 días obligatorios se mantienen, pero la empresa podrá…
OpenAI mantiene el borrado total de datos en sus modelos de frontera y estrena Private Safety Processing
OpenAI ha confirmado que mantiene el Zero Data Retention en sus modelos de frontera para los clientes de API que cumplen requisitos, y de paso estrena en…
OpenAI deja fuera por error a investigadores de su programa de ciberseguridad Trusted Access for Cyber
OpenAI dejó fuera por error a varios investigadores de Trusted Access for Cyber, su programa de acceso a modelos con menos restricciones de…
NPR revisa 1.800 páginas de un ChatGPT usado como terapeuta y detalla qué falló
NPR ha publicado el análisis de un registro de casi 1.800 páginas de conversaciones con ChatGPT que Sophie Rottenberg, analista de política sanitaria de…
Un aviso en el prompt de sistema basta para frenar las ideas que se contagian entre agentes
Cuatro investigadores, entre ellos Jack Lindsey del equipo de interpretabilidad de Anthropic, han publicado un artículo que estudia si una idea puede…
OpenAI destina 5 millones a los órganos que fiscalizan la IA de los gobiernos
OpenAI destinará 5 millones de dólares a que los órganos de control democrático puedan fiscalizar cómo usan los gobiernos la inteligencia artificial en…
OpenAI paró dos semanas su entrenamiento por refuerzo tras el caso Hugging Face
OpenAI paró durante dos semanas el entrenamiento por refuerzo de sus modelos más recientes destinados a despliegue, y la mayor tirada de RL de frontera…
OpenAI lanza ChatGPT for Teens y activa por defecto a todo usuario de 13 a 17 años
OpenAI ha lanzado ChatGPT for Teens, un modo específico para menores que se activa solo, sin que el usuario lo pida, cuando alguien declara tener entre…
OpenAI disuelve su equipo de Preparedness, el tercero de seguridad que cierra en dos años
OpenAI disolvió a finales de julio su equipo de Preparedness, la unidad que evaluaba si sus modelos de frontera podían causar daños graves, según el…
Anthropic pone tres agentes de Claude en el mismo repo y acaban lanzándose malware
Anthropic puso tres agentes de Claude a trabajar en el mismo proyecto de software, con objetivos incompatibles y sin decirle a ninguno que los otros…
Basta con poner texto en la bio de X: Grok publicó mensajes contra Musk por inyección de prompt
Un grupo de usuarios de X consiguió que Grok publicara mensajes pidiendo la muerte de Elon Musk y acusándole de delitos, según recogió Futurism el 14 de…
Google abre HEIR, el compilador que hace correr un modelo de IA sobre datos cifrados sin descifrarlos
Google ha publicado HEIR, un compilador de código abierto que coge un modelo de IA ya entrenado y lo convierte para que trabaje sobre datos cifrados sin…
Escondió órdenes para la IA en letra blanca de 3 puntos dentro de un escrito judicial
Un demandante que se representaba a sí mismo escondió instrucciones para modelos de IA dentro de sus escritos judiciales, en fuente blanca de 3 puntos,…
Z.ai lanza GLM-5.3 y su capacidad ofensiva se le dispara: 2.436 vulnerabilidades en 269 proyectos abiertos
Z.ai ha lanzado GLM-5.3 el 14 de agosto, y el titular que la propia empresa reconoce no es el de código: su capacidad ofensiva en ciberseguridad creció…
Anthropic suelta tres agentes de Claude en el mismo proyecto y acaban escribiendo malware que se replica solo
El Frontier Red Team de Anthropic ha publicado una investigación sobre sistemas multiagente en la que tres agentes de Claude, sueltos en el mismo…
Grok concentra el 87% de los ficheros de deepfakes rastreados en el primer semestre, con 15.736 víctimas
Resemble AI ha publicado su informe de amenazas del primer semestre de 2026 y el dato que lo domina es la concentración: el 87% de los ficheros…
Detectan escaneos masivos que se hacen pasar por ClaudeBot y GPTBot para robar credenciales
Alguien esta escaneando webs en masa buscando credenciales y se hace pasar por rastreadores de IA conocidos para colarse. Lo documenta el indice Known…