Mustafa Suleyman, fundador de DeepMind, una empresa de inteligencia artificial que fuera adquirida por Google, brinda su visión del futuro de esta tecnología e invita a reflexionar en torno al tema
Mustafa Suleyman es un convencido de que la inteligencia artificial generativa, tan de moda hoy, es solo un puente para el salto a la siguiente fase: la interactiva.
Suleyman es el cofundador de DeepMind, una empresa de inteligencia artificial (IA) que comenzó a funcionar en septiembre de 2010, y que fuera adquirida luego por Google. Tras una década en DeepMind, este investigador británico se retiró de la compañía y creó otra, Inflection AI, basada en machine learning.
En una reciente entrevista con la publicación MIT Technology Review, el experto reveló sus ideas en torno al presente y futuro de la inteligencia artificial para la sociedad, y las implicaciones que ello puede tener.
Durante la conversación, Suleyman aseguró ser un convencido de que «es posible construir unas IA que realmente reflejen lo mejor de nosotros mismos y que, en última instancia, tomen mejores decisiones, de manera más consistente y justa, en nuestro nombre».
«Para mí, el objetivo nunca ha sido otra cosa que hacer el bien en el mundo y que este avance de una manera saludable y satisfactoria. Incluso en 2009, cuando comencé a considerar la tecnología, pude ver que la IA representaba una forma justa y precisa de brindar servicios globales», agregó en otro momento.
Al ser cuestionado por su gran optimismo ante este tipo de tecnología, aseguró que, si se analizan «fríamente» los beneficios y las amenazas, «podemos ver muy claro que con cada paso que se da en la escala de estos grandes modelos lingüísticos, se vuelven más controlables», ello, en referencia a la inteligencia artificial generativa, por la cual se sustentan herramientas como ChatGPT, de OpenAI, o Google Bard, entre otras.
Apunta el experto que hay que tomar en cuenta la progresión en el tiempo de estas tecnologías. En ese sentido, se refirió a modelos como Pi, desarrollada por su empresa Inflection AI, el cual definió como «increíblemente controlable».
«No se puede lograr que Pi produzca cosas racistas, homofóbicas, sexistas, cualquier tipo de material tóxico. No puedes conseguir que te enseñe a producir un arma biológica o química o que respalde tu deseo de ir a tirar un ladrillo por la ventana de tu vecino. No puedes hacerlo», aseveró
Aunque no entró en demasiados detalles sobre cómo logró ese comportamiento —porque claramente es un secreto industrial que puede brindarle ventajas sobre sus competidores y, a fin de cuentas, su objetivo es ganar dinero con su empresa—, comentó que «tenemos uno de los equipos más fuertes del mundo, que ha creado todos los modelos lingüísticos más importantes de los últimos tres o cuatro años», algo que es cierto: Inflection AI ha reclutado a grandes genios responsables del éxito de otros grandes modelos de lenguaje. Y añadió que «hicimos de la seguridad nuestra prioridad número uno desde el principio y, como resultado, Pi no es tan atractivo como los modelos de otras empresas».
Pero si los grandes modelos lingüísticos son obviamente la tecnología del momento, ¿por qué Inflection AI no apuesta por ellos? Según Suleyman, «la primera ola de IA se centró en la clasificación. El aprendizaje profundo demostró que podemos entrenar una computadora para clasificar varios tipos de datos: imágenes, video, audio, idiomas. Ahora estamos en la ola generativa, donde se toman esos datos de entrada y se producen nuevos datos.
«La tercera ola será la fase interactiva. Por eso apuesto desde hace mucho tiempo a que la conversación es la interfaz del futuro. En lugar de simplemente hacer clic en los botones y escribir, hablarás con tu IA», significó.
«Y estas IA podrán realizar acciones. Simplemente le darás un objetivo general de alto nivel y utilizará todas las herramientas que tiene para actuar en consecuencia. Hablarán con otras personas, hablarán con otras IA. Esto es lo que vamos a hacer con Pi», acotó.
«Se trata de un gran cambio en lo que la tecnología puede hacer. Es un momento muy, muy profundo en la historia de la tecnología que creo que mucha gente subestima. La tecnología actual es estática. Hace, en términos generales, lo que usted le dice que haga. Pero ahora la tecnología se va a animar. Tendrá la libertad potencial, si se la das, para tomar medidas. Es realmente un cambio radical en la historia de nuestra especie el hecho de que estemos creando herramientas que tienen este tipo de futuro», sentenció el experto.
Sin embargo, ese es el tipo de pensamiento que preocupa a muchas personas. Se quiere dar autonomía a las máquinas para influir en el mundo, y también poder controlarlas. ¿Cómo equilibrar esas dos cosas?
A juicio de Suleyman, la idea es que los humanos siempre estarán al mando. «Básicamente, se trata de establecer límites que una IA no puede cruzar. Y garantizar que esos límites creen una seguridad demostrable desde el código real hasta la forma en que interactúa con otras IA —o con humanos— y las motivaciones e incentivos de las empresas que crean la tecnología. Deberíamos descubrir cómo las instituciones independientes o incluso los gobiernos obtienen acceso directo para garantizar que no se crucen esos límites», consideró.
Sobre el establecimiento de normas, indicó que como mismo se ha regulado internet a lo largo de los años, se logrará un equilibrio con el uso de la IA. Empero, hay cuestiones a tomar en cuenta.
El cibercrimen sigue siendo un enorme problema global. Según algunas estimaciones, el costo financiero solo en Estados Unidos ha aumentado más de cien veces en la última década. Los informes muestran que la economía del porno deepfake no consensuado está en auge. Las drogas y las armas se comercializan en las redes sociales. La regulación no está, ni de cerca, completa.
22
