Tecnología

Facebook desconectó por seguridad inteligencia artificial que creó su propio idioma

Los programas tenían por nombre Alice y Bob

Por Allan Brito
Facebook desconectó por seguridad  inteligencia artificial que creó su propio idioma
Facebook Twitter Whatsapp Telegram

La inteligencia artificial cada vez está ocupando sectores importantes de la tecnología y la vida misma. En redes sociales, telefonía, conducción autónoma y hasta en hospitales y fábricas.

Alice y Bob eran dos chatbots, es decir, programas informáticos que imitan conversaciones humanas a través de texto, ya que no eran capaces de gestionar funciones sofisticadas más allá de responder preguntas a clientes.  Luego de crearlos, el Grupo de Investigación de Inteligencia Artificial (FAIR, por sus siglas en inglés) de Facebook intentó enseñarles a negociar.

Sin embargo, la situación se salió de control. Y aunque los programas estaban sincronizados para hablar entre sí pero en el idioma inglés, lograron crear un lenguaje propio, ignorando por completo las funciones programadas.

Alice y Bob en descontrol

Los investigadores se sorprendieron al ver que tanto Alice como Bob hablaban un idioma diferente. Un lenguaje de códigos, que eran intangibles para los investigadores a pesar que entre ellos se entendían perfectamente.

Un miembro del FAIR expresó que el comportamiento de ambos bots no era alarmante y lo catalogó como un subcampo establecido de la inteligencia artificial.

“En pocas palabras, los agentes en entornos que intentan resolver una tarea a menudo encontrarán formas poco intuitivas de maximizar una recompensa. Analizar la función de recompensa y cambiar los parámetros de un experimento NO es lo mismo que desconectar o apagar la IA. Si ese fuera el caso, todos los investigadores de IA han estado cerrando la IA cada vez que hay un error”, expresó Dhruv Batra.

En pocas palabras, los expertos de la compañía que fue fundada por Mark Zuckerberg indicaron que no temían que Alice y Bob se salieran de control sino que querían evitar un error mayor, que luego le fuese imposible de reparar en un tiempo prudencial.

Hace algún tiempo la fundación Open AI que fue creada por el magnate sudafricano Elon Musk, señaló que estos bots de inteligencia artificial podían crear su propio idioma.

Incluso el creador de los automóviles Tesla, había indicado que el experimento que realizó Facebook era peligroso para la humanidad.

Relacionados