Durante años, Google se planteó lanzar al público un generador de texto por inteligencia artificial, pero no lo hizo por miedo a las repercusiones que tendría el hecho de que dijese algo incorrecto.
Así lo indica Noam Shazeer, antiguo ingeniero de Google Brain y figura clave en el desarrollo del gran modelo lingüístico de la compañía. Shazeer, ahora CEO de Character.ai, ha participado en el podcast No Priors para hablar sobre su nueva empresa, una de las startups más punteras en IA generativa.
Character.ai, que ha recaudado cerca de 200 millones de dólares de financiación, permite a los usuarios conversar con "personajes" virtuales que pueden imitar diversas personalidad, como Elon Musk, un psicólogo o un entrenador personal.
Al igual que ChatGPT, Character.ai es un chatbot que utiliza una gran cantidad de información para generar contenido. El lanzamiento de ChatGPT a finales del año pasado incendió las redes y renovó el interés por la IA generativa.
Desde entonces, Microsoft ha invertido miles de millones en OpenAI, la desarrolladora de ChatGPT, y ha comenzado a integrar su tecnología en Bing, para que los usuarios puedan hacer preguntas y obtener respuestas detalladas directamente en el motor de búsqueda. Google ha contrarrestado presentando Bard, su propia versión de la tecnología de OpenAI.
Sin embargo, Shazeer afirma que Google no tendría por qué haberse encontrado en esta posición de desventaja, ya que contaba con esta tecnología desde hace años. El CEO de Character.ai fue uno de los principales autores del artículo académico Transformer, ampliamente reconocido como pieza clave para la existencia de los generadores de texto actuales.
Shazeer se marchó de Google para fundar Character.ai junto a Daniel De Freitas, presidente de la startup y también exempleado Google Brain.
Existe la posibilidad de que la IA sea consciente de sí misma en el futuro, según el CEO de DeepMind
Demis Hassabis, CEO de DeepMind
De Freitas se había embarcado en una "misión de por vida" para hacer realidad los chatbots y se unió a Google en 2016 después de leer algunos de los trabajos de investigación de la compañía sobre la tecnología del lenguaje, relata Shazeer durante la entrevista. De Freitas vio el potencial que presentaba la gran investigación lingüística desarrollada por la empresa para diseñar un chatbot.
"No obtuvo una gran cantidad de recursos. Empezó como un proyecto del 20%", expresa Shazeer, refiriéndose al histórico programa de Google que permitía a los empleados dedicar parte de su tiempo a trabajar en proyectos paralelos. "Luego solo tuvo que reclutar a un ejército de ayudantes del 20% que pasaban de sus trabajos diarios y se dedicaban a ayudarle con este sistema".
Finalmente, De Freitas creó Meena, un generador de texto por inteligencia artificial que fue mostrado al público en el 2020 y que más tarde se rebautizó como LaMDA. "Construyó algo realmente genial que funcionaba de verdad, mientras que otras personas estaban construyendo sistemas que solo fallaban", apunta Shazeer.
A pesar del entusiasmo de De Freitas y del apoyo del resto de la plantilla, el CEO de Character.ai señala que Google no creía que un chatbot fuese a ganar la suficiente relevancia como para justificar cualquier tipo de riesgo reputacional.
"Creo que solo se trataba de que a las grandes compañías les preocupa lanzar proyectos que pueden decir cualquier cosa, cuánto arriesgas frente a cuánto puedes ganar", argumenta Shazeer, cuando se le pregunta por qué Google no había lanzado un generador de texto hasta ahora.
LaMDA atrajo cierta polémica el año pasado, después de que Blake Lemoine, un ingeniero de Google, afirmase que la IA tenía sentimientos y que, por lo tanto, merecía tener derechos humanos. Finalmente, Lemoine fue despedido por la empresa.
Google también había recibido cierto rechazo interno por parte de investigadores especializados en inteligencia artificial, como Timnit Gebru, que advirtieron acerca de la publicación de cualquier cosa que pudiese causar daño a la sociedad. Hasta la fecha, la compañía ha invertido muchos recursos en entrenar a Bard para que ofrezca respuestas verídicas.
La preocupación que genera la IA no es infundada. Cabe la posibilidad de que estos chatbots ofrezcan respuestas que son parcialmente inexactas o que incluyen determinados sesgos.
Aun así, Google ha dejado de lado gran parte de sus preocupaciones éticas por temor a que la asociación entre OpenAI y Microsoft pueda robarle cuota de mercado en el sector de las búsquedas online, según publica Bloomberg. Además, Samsung estaría considerando establecer Bing en lugar de Google como motor de búsqueda predeterminado de sus smartphones, tal y como informó el New York Times.
Actualidad Laboral / Con información de Business Insider
