Un exempleado de OpenAI, firmó esta semana una carta junto con otros empleados de la empresa creadora de ChatGPT para denunciar la opacidad sobre los posibles riesgos de la inteligencia artificial (IA), señaló a Agencia EFE el peligro de una carrera en el sector por crear una super IA que sea más inteligente que los humanos.
Carroll Wainwright renunció la semana pasada a su puesto como parte del equipo de alineamiento práctico y superalineamiento, que vigila que los modelos más potentes de OpenAI sean seguros y vayan en consonancia con los valores humanos.
Cuando se lanzó, con un éxito que sorprendió hasta a la propia empresa, el “chatbot” ChatGPT, Wainwright empezó a trabajar en un equipo de superalineamiento para investigar, a medida que OpenAI obtenía modelos cada vez más inteligentes, las intervenciones técnicas que se pueden realizar para mantener el control sobre ellos.
A diferencia de la IA generativa, la IAG reproduciría acciones humanas como escribir o dibujar, cosa que hace la IA generativa y comprendería la complejidad y contexto de sus acciones.
Esta tecnología aún no existe. Algunos expertos, como Elon Musk, predicen que se creará en unos dos años, mientras que otros como Robin Li, director ejecutivo de Baid, una de las mayores tecnológicas de China, dice que llegará en una década.
Wainwright cree que podría verse en unos cinco años, «¿Seguro que sucederá en cinco años? No, pero creo que es posible. Puede que lleve mucho más tiempo, pero si hay algo que potencialmente puede cambiar el mundo, deberíamos tomárnoslo muy, muy en serio», enfatizó.
No obstante, el extrabajador señala que el motivo por el que renunció y luego firmó la carta no se debe a que encontró algo «aterrador», ya que por ahora OpenAI solo está investigando la posibilidad de crear tecnología.
El principal detonante de su renuncia fue el cambio de visión de la compañía, que comenzó como un laboratorio de investigación sin fines de lucro «con la misión de que esta tecnología realmente beneficie a la humanidad», tras el enorme éxito ChatGPT en 2022.
«Creo que las motivaciones que impulsan a OpenAI en sus acciones cotidianas son casi en su totalidad incentivos para obtener ganancias», aseguró Wainwright.
#NoticiasDNNInternacional