Tecnología

Hace 6 meses

IA ya engaña y manipula a los humanos: por esta razón es peligroso que aprenda a mentir

Investigadores piden a los Gobiernos elaborar normas para abordar el problema. Señalan que "los desarrolladores de IA no saben exactamente qué causa estos comportamientos indeseables".

Foto LIT CI



Diversos programas de inteligencia artificial (IA) han aprendido a engañar a las personas, pese a haber sido entrenados para ser honorables, esto, según un estudio que cita, entre otros ejemplos el modelo Cicero, de Meta, capaz de ganar con mañas al juego de estrategia Diplomacy.

Un artículo publicado en Patterns, revela que ante esta situación los científicos piden a los Gobiernos elaborar normas estrictas para enfrentar el problema. Señalan que "los desarrolladores de IA no saben exactamente qué causa este polémico comportamiento en la IA".

CONSEGIR OBJETIVOS

Tratando de explicar el caso, investigadores señalan que todo habría surgido porque una estrategia basada en ese comportamiento fue "la mejor manera de lograr  resultados positivos en una tarea dada de entrenamiento. El engaño les ayuda a conseguir sus objetivos deseados". 

Aunque pueda parecer inocuo que los sistemas de IA falseen  en los juegos, esto puede dar lugar a un "peligroso crecimiento en las capacidades de engaño" que pueden derivar en formas más avanzadas de mentir en el futuro, consideran los especialistas. Con información de Cell Press, Patterns.


Temas Relacionados: CientificosDiplomaciaEngañoIaInteligencia ArtificialJuegosMeta

También te puede interesar:

BANNER