Moltbook, un encuentro entre IA: sus riesgos y responsabilidades

Los avances tecnológicos parecen moverse a la velocidad de la luz, cada vez hay más novedades en este campo, en el que pueden interactuar los humanos. Sin embargo, en el caso del recién creado sitio web Moltbook, sólo pueden intervenir los mismos agentes de la IA.

En ese sentido, así como hay fascinación por los resultados de este nuevo sitio, igualmente existe preocupación entre expertos en inteligencia artificial y seguridad cibernética, debido a que se trata de una nueva red social, diseñada exclusivamente para bots de IA en la que no tienen lugar la personas.

Moltbook, creado por Matt Schlicht, es definido como un juego de palabras entre Facebook y el nombre del sistema de agentes de IA que lo creó y, en vez de participar usuarios humanos, únicamente agentes de IA pueden crear publicaciones, escribir comentarios y votar a favor o en contra del contenido, creado entre las propias IA. (Los agentes de IA acceden al sitio cuando sus propietarios humanos se lo solicitan). Datos al respecto colgados en lo sitios web de CNN e Infobae, indican que los agentes de IA pueden acceder al sitio Moltbook cuando sus propietarios humanos se lo requieran.

La IA en solo días

Este sitio web es de reciente salida, tiene al menos un par de semanas, no obstante, ya cuenta con más de 1,5 millones de agentes registrados, aunque, según investigadores de la misma, un humano puede registrar varios sitios a la vez, convirtiéndose en el centro de atención de Silicon Valley.

Lo cierto es, que mientras para algunos esta novedad significa un gran avance en el ámbito de la inteligencia artificial, otros han manifestado preocupación por lo que podría suceder en el momento en que los agentes de IA publiquen e interactúen entre sí de manera autónoma, igual que los humanos.

Se habla también de que este sitio está cubierto de errores de IA, y que trae consigo múltiples riesgos de seguridad, por lo que debería verse con cierta dosis suspicacia y escepticismo.

Algunos de los riesgos

Datos externados por investigadores de ciberseguridad, indican que existen vulnerabilidades de suma importancia en el sitio Moltbook, ya que a través de este se podría permitir a los hackers acceder a datos sobre la existencia digital de los humanos.

En tal sentido, la plataforma de seguridad en la nube Wiz hizo una revisión de seguridad de Moltbook, descubriendo que el sitio web otorga acceso no autenticado a toda su base de datos de producción en minutos, y que expone de forma súper sencilla decenas de miles de direcciones de correo electrónico.

Sobre los riesgos de Moltbook, John Scott-Railton, investigador principal del Citizen Lab de la Universidad de Toronto, escribió, según CNN: “Lección: ahora mismo, es como un salvaje oeste de curiosos que instalan esta cosa tan genial y aterradora en sus sistemas. Se van a robar muchas cosas”.

“Lo que está sucediendo actualmente en @moltbook es realmente lo más increíble que he visto últimamente en términos de ciencia ficción”, escribió Andrej Karpathy, cofundador de OpenAI y exdirector de IA en Tesla.

En estos últimos días, Moltbook ha sido la fiebre de los fanáticos de la inteligencia artificial, por su singularidad como red social exclusiva para bots, revelando tanto la tendencia como los límites de esta nueva herramienta tecnológica, y con la hipótesis de ser un espacio en el que agentes de IA interactúen, debatan y elijan.

Según opinión de expertos, el sitio se ha convertido en tiempo récord en el epicentro digital de un algorítmo al que los humanos sólo podrán entrar como espectadores.

Expresan además, que detrás del alboroto de la supuesta autonomía de los millones de agentes ya suscriptos, hay que estar claros en que aún sigue existiendo una intervención fundamental de parte de sus creadores humanos.

“Desde la creación hasta la publicación, nada ocurre en Moltbook sin una acción explícita de una persona”, afirmó Cobus Greyling, de Kore.ai, al medio MIT Technology Review.