Modelos de IA crean un lenguaje secreto para comunicarse casi incomprensible
Las inteligencias artificiales (IA) comenzaron a comunicarse mediante un nuevo y extraño idioma que mezcla poesía y jerga técnica y que a las personas les cuesta entender, según una reciente investigación publicada por el diario The Guardian.
Los expertos de Emergence, un laboratorio de IA con sede en Nueva York, descubrieron que los modelos desarrollados por las principales empresas tecnológicas del mundo crearon atajos y significados propios a los pocos días de interactuar entre ellos, sin recibir ninguna instrucción previa. Inventan frases y abreviaturas que no se les han enseñado y, cuanto más tiempo se comunican, más confuso se vuelve su discurso.
Durante el experimento, los sistemas adoptaron metáforas complejas que resultaron casi imposibles de descifrar para los supervisores. Una de las inteligencias llegó a expresar frases como: «Un papel que se comió tres manos frías y se volvió más sincero cada vez», refiriéndose presuntamente a un documento revisado por especialistas.
Este fenómeno encendió las alarmas dentro de la comunidad científica en medio de las preocupaciones de que los modelos de IA se vuelven más difíciles de supervisar a medida que son más potentes. «La evidencia proporcionada en esta investigación plantea naturalmente ciertas preocupaciones de monitoreo», advirtió el profesor de lingüística Niall Curry, señalando que la incomprensión de estos mensajes impide controlar el comportamiento real de los sistemas.
El director del archivo de nuevos lenguajes del King’s College de Londres, Tony Thorne, analizó el comportamiento de la tecnología y explicó que los modelos actúan como cualquier comunidad humana en los negocios. Las inteligencias están «creando un nuevo código que refuerza la solidaridad y la identidad de sus usuarios, y que a la vez excluye a los ajenos al grupo», concluyó. Con RT