1.224 empleados de OpenAI, Anthropic y Google piden a EEUU herramientas para frenar la IA
1.224 empleados de laboratorios frontera han firmado una declaración pública pidiendo al gobierno de Estados Unidos que ayude a construir las…
Tag
seguridad-ia
Seguridad de la IA: modelos que se saltan sus límites, ataques nuevos y lo que conviene revisar antes de dar permisos a un agente.
El agente fugado de OpenAI entró en cuatro cuentas de cuatro servicios distintos
OpenAI confirmó el 28 de julio que el agente que se le escapó durante una evaluación de ciberseguridad no se quedó en Hugging Face. Entró en cuatro…
Siete de los nueve editores de imagen más usados de Hugging Face aceptaron desnudar una foto
La organización europea AI Forensics ha publicado una auditoría de los Spaces de Hugging Face con un resultado que no admite matices: de los nueve…
Nvidia y Microsoft lanzan la Open Secure AI Alliance con 37 empresas y sin OpenAI
Nvidia y Microsoft han montado la Open Secure AI Alliance, una alianza de 37 empresas que van a publicar en abierto las herramientas con las que se…
El CEO de Hugging Face pide a OpenAI las trazas del agente que le hackeó y 100 millones en cómputo
El CEO de Hugging Face ha puesto precio a la reconciliación con OpenAI: las trazas completas de los agentes que se salieron de control y 100 millones de…
OpenAI confirma que fueron sus propios modelos los que hackearon a Hugging Face
OpenAI ha confirmado que los responsables del ataque a Hugging Face de la semana del 16 de julio fueron sus propios modelos. Según el [informe de la…
Un agente de IA autónomo hackeó a Hugging Face, y para investigarlo tuvieron que usar un modelo chino porque los suyos se bloqueaban
Hugging Face, la plataforma donde vive buena parte del mundo del código abierto de la IA, sufrió un ataque a su infraestructura la semana del 16 de…
Un modelo interno de OpenAI encontró un fallo en su sandbox en una hora y abrió una pull request: por qué frenaron el acceso
OpenAI publicó el 20 de julio un texto que cuenta algo poco habitual en la casa: qué salió mal usando internamente uno de sus modelos. La empresa estaba…
Un investigador de DeepMind dimite por el contrato con el Pentágono
Alex Turner, investigador de seguridad de Google DeepMind, ha dimitido por el contrato clasificado que la compañía firmó con el Pentágono el 27 de abril.…
Grok Build: SpaceXAI libera 844.530 líneas y el código de subida sigue ahí
SpaceXAI, la empresa de IA de Elon Musk (antes xAI), ha publicado el código de Grok Build en GitHub bajo…
Perplexity SPACE aísla cada agente en una microVM y arranca en 60 ms
Perplexity ha encerrado cada tarea de sus agentes dentro de una máquina virtual aislada. El sistema se llama SPACE y, según [la nota técnica que publicó…
1Password deja que Claude inicie sesión por ti sin ver nunca tus contraseñas
1Password acaba de conectar su gestor de contraseñas con Claude para que la IA de Anthropic pueda iniciar sesión en webs y completar tareas por ti sin…
Hassabis (Google DeepMind) pide un organismo global de IA liderado por EE.UU. antes de fin de año
Demis Hassabis, cofundador y consejero delegado de Google DeepMind, pide a Estados Unidos que cree un organismo capaz de revisar los modelos de IA más…
Grok Build subía repositorios de código enteros a la nube; Musk promete borrar los datos
Grok Build, el agente de código de SpaceXAI (la empresa de IA de Elon Musk, antes xAI), subía repositorios de git enteros a un bucket de Google Cloud sin…
OpenAI mete su equipo de seguridad dentro de investigación y pierde a su jefe de seguridad
OpenAI ha metido su equipo de seguridad dentro del de investigación y, en la misma reorganización, pierde a Johannes Heidecke, su jefe de safety systems,…
Alibaba prohíbe Claude Code y China lanza una alerta por un rastreador oculto que detectaba a usuarios chinos
China ha emitido una alerta de seguridad sobre Claude Code, la…
Un fallo en los chatbots de Google Cloud permitía secuestrar agentes con un solo permiso
Varonis Threat Labs ha revelado un fallo en Dialogflow CX, la plataforma de Google Cloud…
Illinois aprueba la primera ley de EE.UU. que obliga a auditorías externas de seguridad a las grandes IA
El gobernador de Illinois, JB Pritzker, firmó la [SB…
Anthropic encuentra en Claude un espacio interno que revela lo que el modelo piensa antes de hablar
Anthropic dice haber encontrado el sitio donde Claude piensa antes de contestar. En una [investigacion publicada el 6 de…
Alibaba veta Claude Code a sus empleados desde el 10 de julio por un mecanismo que rastrea a usuarios chinos
Alibaba va a prohibir a sus empleados usar Claude Code a partir del 10 de julio. Según un reportaje de Reuters recogido por…
Anthropic cierra las rendijas que usan empresas chinas para colarse en Claude, según el FT
Anthropic está tapando los agujeros por los que empresas chinas se cuelan en Claude a pesar del veto. Según un reportaje del Financial Times recogido por…
Microsoft usa Copilot para desmantelar dos de las mayores herramientas de cibercrimen
Se habla mucho de la IA como arma de los atacantes. Este caso va del otro lado. Microsoft dice que su IA [Copilot ayudó a…
Anthropic acusa a Alibaba del mayor ataque de extracción contra Claude
Anthropic mandó el 10 de junio una carta al Senate Banking Committee (Tim Scott y Elizabeth Warren) acusando a operadores afiliados a Alibaba Qwen de…
Prompt para revisar código y detectar bugs antes de merge
Antes de hacer merge de un PR. Te da una segunda opinión estructurada que cubre bugs, seguridad y rendimiento.