Autor: DANRICTEC

IA

¿Qué sucedió? Anthropic, la compañía de inteligencia artificial responsable de los modelos de Claude que ahora promueve Copilot de Microsoft, ha revelado un descubrimiento sorprendente. El estudio, que se llevó a cabo en cooperación con el Instituto de Seguridad de IA británico, el Instituto Alan Turing y Anthropic, mostró cuán fácil es para los grandes modelos de lenguaje (LLM) contaminarse con datos maliciosos utilizados para su entrenamiento y abrir puertas traseras para toda clase de travesuras y ataques. Esto es relevante porque: Esta investigación desafía una de las creencias más relevantes de la IA, a saber, que los modelos más…

Seguir leyendo