Un aviso en el prompt de sistema basta para frenar las ideas que se contagian entre agentes
Cuatro investigadores, entre ellos Jack Lindsey del equipo de interpretabilidad de Anthropic, han publicado un artículo que estudia si una idea puede…
Tag
alineamiento
OpenAI paró dos semanas su entrenamiento por refuerzo tras el caso Hugging Face
OpenAI paró durante dos semanas el entrenamiento por refuerzo de sus modelos más recientes destinados a despliegue, y la mayor tirada de RL de frontera…
Un modelo interno de OpenAI encontró un fallo en su sandbox en una hora y abrió una pull request: por qué frenaron el acceso
OpenAI publicó el 20 de julio un texto que cuenta algo poco habitual en la casa: qué salió mal usando internamente uno de sus modelos. La empresa estaba…
Anthropic encuentra en Claude un espacio interno que revela lo que el modelo piensa antes de hablar
Anthropic dice haber encontrado el sitio donde Claude piensa antes de contestar. En una [investigacion publicada el 6 de…