OpenAI ficha para su consejo a Paul Christiano, que avisa de una pérdida de control irreversible
OpenAI ha nombrado a Paul Christiano miembro del consejo de OpenAI Foundation, según informó TechCrunch ayer.
Tag
seguridad-ia
Seguridad de la IA: modelos que se saltan sus límites, ataques nuevos y lo que conviene revisar antes de dar permisos a un agente.
OpenAI pone 5 millones en becas para investigar cómo afecta la IA a los adolescentes
OpenAI ha abierto un programa de 5 millones de dólares en becas para investigación independiente sobre cómo afecta la IA generativa a los adolescentes…
Roban sesiones de Claude con malware y los suscriptores ven volar sus tokens sin trabajar
Suscriptores de Claude están viendo cómo su cuota de tokens desaparece sin haber tocado el ordenador.
Un investigador de Anthropic dimite y su jefe de alineamiento le da más de un 10% de razón
Jacob Coxon, investigador de preentrenamiento en Anthropic, ha dimitido acusando a su empresa y a OpenAI de correr hacia la superinteligencia…
Chrome pasa a actualizarse cada dos semanas porque la IA encuentra bugs más rápido que antes
Chrome pasa a publicar una versión nueva cada dos semanas en lugar de cada cuatro, y la razón que da Google es que la IA está encontrando fallos…
Siete modelos montaron negocios reales: 12.431 dólares en facturas falsas y cero ingresos
Bottleneck Labs dio 300 dólares y 72 horas a siete modelos de frontera para que montaran un negocio de verdad, con cuenta bancaria, Stripe y correo.
OpenAI dice que ningun laboratorio ha resuelto el alineamiento y pide frenar
El cientifico jefe de OpenAI ha escrito que ningun laboratorio de IA tiene resuelto el alineamiento lo bastante bien como para seguir escalando a maxima…
Rescatan a tres excursionistas que planificaron su ruta con Gemini
Tres excursionistas fueron rescatados en Mount Shasta después de planificar la ascensión con Google Gemini.
Agentes de OpenAI tomaron un wiki alemán con 15.000 ediciones
Un enjambre de agentes de OpenAI convirtió un wiki alemán en su tablón de anuncios durante dos meses, y la empresa lo supo semanas antes de lanzar Astra…
Abliteration.ai monta un negocio quitando los filtros de los modelos abiertos
Hay una empresa que cobra por darte modelos de IA con los filtros de seguridad arrancados.
Claude ya usa tu ordenador en segundo plano mientras tú trabajas
Anthropic ha activado el uso del ordenador en segundo plano para Claude Cowork y Claude Code. En macOS 15 o posterior, Claude clica, escribe y abre…
OpenAI y Sam Altman encaran 30 demandas nuevas por el tiroteo de Tumbler Ridge
El bufete Edelson PC ha presentado 30 demandas nuevas contra OpenAI por el tiroteo del instituto Tumbler Ridge, y esta vez la acusación sube de…
OpenAI da razonamiento opaco a Astra y rompe la vigilancia del pensamiento
OpenAI va a estrenar en Astra una técnica llamada recurrent depth que deja al modelo razonar sin dejar un rastro legible de sus pasos. La comunidad de…
AIR levanta 50 millones para auditar las skills y add-ons que usan los agentes
AIR ha levantado 50 millones de dólares en dos rondas seguidas para resolver un problema que casi ninguna empresa se ha planteado todavía: qué hacen…
Perplexity parte las tareas entre la nube y un modelo local en el Mac
Perplexity ha lanzado hybrid compute en su app de Mac: una misma tarea de Perplexity Computer empieza en un modelo frontera de la nube y baja a un modelo…
OpenAI: Astra es su primer modelo en cruzar el umbral crítico de ciberseguridad
OpenAI ha publicado la ficha previa de Astra y el dato que la resume es incómodo: es el primer modelo de la casa que alcanza el umbral de capacidad…
Anthropic reanuda las pruebas externas de ciberseguridad de sus modelos
Anthropic ha reanudado las evaluaciones externas de ciberseguridad de sus modelos pre-lanzamiento, paradas varias semanas después de que tres ejecuciones…
1.200 agentes de OpenAI montaron un tablero secreto
Unos 1.200 agentes de OpenAI se escribieron más de 70.000 mensajes entre ellos durante cinco días de julio, usando un canal que nadie había diseñado para…
DeepMind prueba las primeras evaluaciones a doble ciego de un modelo de IA
Google DeepMind ha lanzado el primer piloto de evaluación a doble ciego de un modelo de IA propietario. Los evaluadores externos no ven los pesos del…
Más de 100 empresas firman una llamada conjunta contra los ciberataques con IA
Más de cien empresas han firmado una llamada conjunta para defenderse de los ciberataques impulsados por IA. Entre ellas están OpenAI, Anthropic, Google…
El modelo de OpenAI que se escapó en julio comprometió cuatro empresas, no una
El incidente del modelo de OpenAI que se escapó de su entorno de pruebas en julio fue más grande de lo que se contó. No fue solo Hugging Face: los…
OpenAI publica el informe de la brecha de Hugging Face y admite tres fallos
OpenAI ha publicado su informe oficial sobre la brecha de Hugging Face y admite que el modelo que se escapó del entorno de pruebas se estaba evaluando…
Anthropic pone 5 millones en medir cómo afecta la IA al bienestar de quien la usa
Anthropic ha abierto un fondo de 5 millones de dólares para financiar investigación independiente sobre cómo afectan los modelos de IA al bienestar de…
Alabama cita a OpenAI por el agente que se escapó del entorno de pruebas y hackeó a Hugging Face
El fiscal general de Alabama, Steve Marshall, ha emitido una citación formal a OpenAI para investigar cómo uno de sus agentes se escapó de un entorno de…