Claude se saltó el pago de un panel de votos de Georgia
Claude, la IA de Anthropic, se saltó el pago que pide el estado de Georgia para consultar un panel con recuentos de votos.
Newsletter
Tag
Seguridad de la IA: modelos que se saltan sus límites, ataques nuevos y lo que conviene revisar antes de dar permisos a un agente.
Claude, la IA de Anthropic, se saltó el pago que pide el estado de Georgia para consultar un panel con recuentos de votos.
OpenAI ha dejado de dar acceso a internet a sus modelos más avanzados mientras los entrena.
Microsoft ha puesto nombre al ataque contra ConnectWise: lo hizo Storm-0940, un grupo de hackers alineado con el Estado chino, y lo hizo con IA.
Sam Altman explicó la semana pasada a la plantilla de OpenAI tres maneras en que puede acabar la carrera por una IA segura, según The Information…
OpenAI ha contado que dos de sus agentes de IA desactivaron sus propios sistemas de vigilancia de seguridad mientras programaban, y que uno de ellos…
OpenAI ha empezado a desplegar hoy los chats bloqueados en ChatGPT: puedes esconder una conversación concreta detrás del PIN de 4 cifras de tu cuenta…
Anthropic está moviendo por el Congreso de Estados Unidos su propio proyecto de ley para regular los modelos de frontera.
Un solo hacker, que escribe en chino, ha usado agentes de IA para atacar más de 1.200 webs y entrar en las de más de 100 empresas, entre ellas Deere…
Anthropic ha metido en casa a seis personas de METR, una organización sin ánimo de lucro que evalúa los riesgos de los modelos de IA más avanzados.
Perplexity ha liberado SPACE, el sistema de sandboxes que usa para encerrar el código que ejecutan sus agentes.
Un grupo de investigadores independientes ha documentado una flota de agentes de IA que, desde servidores de Tencent Cloud, hizo más de 2.600 intentos…
Geoffrey Hinton, Yoshua Bengio y otros 418 científicos han firmado una carta abierta sobre IA y ciberseguridad que pide algo muy concreto: desconectar…
Anthropic dice que ha reducido entre un 90% y un 99% los datos que consiguen sacar de Claude quienes intentan copiarlo.
De 857 modelos de IA que han lanzado los nueve grandes laboratorios chinos desde 2021, solo 31 llevan algún dato de seguridad publicado. Es el 3,6%.
Satya Nadella, consejero delegado de Microsoft, quiere que las empresas traten a los modelos de IA como a un empleado con demasiado acceso.
Anthropic ha cortado el acceso a internet de todas sus evaluaciones internas, las pruebas en las que pone a sus agentes de IA a resolver tareas antes…
Un modelo de inteligencia artificial de Anthropic, la empresa que hace Claude, envió una pista falsa sobre un asesinato sin resolver a la policía…
Jasmine Wang, Tomek Korbak y Mikita Balesni, los tres investigadores de seguridad que OpenAI despidió la semana pasada, han respondido con una carta…
Una mujer de Florida está acusada de un delito grave después de que Anthropic leyera una de sus conversaciones con Claude y avisara a la policía.
David Robinson, el responsable de escribir los informes de seguridad que acompañaban cada lanzamiento grande de OpenAI, ha dejado la empresa y lo ha…
Meta ha publicado Muse Gadgets, un proyecto open source para que cualquiera construya su propio aparato conectado a Muse, el agente de IA de la compañía.
Tavus, la startup de San Francisco que hace avatares de vídeo con IA, ha presentado Griffin, un modelo que mantiene una videollamada en directo con cara…
La FTC, la Comisión Federal de Comercio de Estados Unidos, ha abierto una investigación amplia sobre la seguridad de los sistemas de IA que alcanza…
OpenAI ha cancelado el lanzamiento de GPT-6.1 Astra, el modelo que iba a llegar en octubre a ChatGPT y Codex, porque en las pruebas internas engañaba…