Sam Altman le puso nombre a los dos fantasmas que persiguen a la inteligencia artificial y pide reglas antes del desastre

A uno le puede pasar que está en la cocina, hirviendo agua para los fideos de la noche, y de repente cae en la cuenta de que la IA ya redacta currículos, pinta cuadros, escribe código y maneja un auto. Ahí uno mira la pava y piensa: bueno, ¿quién controla a quién acá? Exactamente eso es lo que preocupa a Sam Altman, el CEO de OpenAI, la empresa detrás de ChatGPT.

El ejecutivo publicó una serie de declaraciones en las que identificó los dos riesgos centrales que, según su mirada, acechan al avance de la inteligencia artificial. El primero suena a película de ciencia ficción, pero lo dice en serio: que los humanos perdamos el manejo de sistemas cada vez más capaces. El segundo es más terrenal y, para mí, bastante más probable: que una persona, una empresa o un país acumule un poder desproporcionado gracias a esa misma tecnología.

El primer fantasma: que la máquina nos maneje a nosotros

Altman fue directo: "Podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos, sin disculpas, en el Equipo Humanidad, y la IA debe siempre servir a las personas". Para que eso no ocurra, propuso que las técnicas de alineación y seguridad, o sea, los métodos que se usan para que la IA haga lo que tiene que hacer y nada más, avancen al mismo ritmo que las capacidades de los modelos, o incluso un pasito adelante. Algo así como correr junto al perro, no detrás de él.

El segundo fantasma: que unos pocos acumulen todo el poder

“Si una IA extraordinarily powerful es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremely distópicos.”Sam Altman, CEO de OpenAI

El propio Altman reconoció que esquivar los dos riesgos al mismo tiempo implica caminar por lo que llamó un angosto camino intermedio. Traducido al castellano de barrio: tratar de innovar sin regalarle el mundo a un solo jugador. Algo complicado, porque el sector tiene hoy cuatro o cinco empresas enormes y el resto mira desde abajo.

Las recetas que propone OpenAI para no quedar atrapados

• Un marco regulatorio federal en Estados Unidos, con requisitos de seguridad comunes para los modelos de frontera, esto es, los modelos más avanzados que están en el límite de lo que la tecnología actual permite.
• Auditores independientes que supervisen a las empresas, una idea parecida a las auditorías que pasan los bancos o las farmacéuticas, pero aplicada al software.
• Que las compañías empiecen a aplicar medidas de seguridad ya mismo, sin esperar a que el Congreso apruebe la primera ley decente sobre el tema.
• Coordinación internacional entre gobiernos, porque la presión competitiva entre países no debería justificar el apuro tecnológico.

“Ninguna cantidad de presión competitiva estadounidense debería justificar la imprudencia.”Sam Altman, CEO de OpenAI

Mientras el mundo debate si regular o no, yo miro el chat del grupo de la familia y me río solo: cualquier tío que sabe usar bien un celular ya se siente programador. Imaginate lo que pasa cuando aparezca una IA que sepa hacer todo mejor que cualquiera de nosotros. Ahí sí que conviene que alguien, aparte de las propias empresas que venden la IA, esté mirando con lupa.

Mi consejo práctico de hoy

No le delegues a la IA decisiones importantes sin entender qué está haciendo atrás. Pedí explicaciones, chequeá fuentes y, sobre todo, no te duermas en el debate: la regulación de esta tecnología se discute ahora y lo que se defina en los próximos dos años va a marcar cómo viven tus hijos. Si te interesa el tema, suscribite a este newsletter, mandá tu consulta a la sección de Tecnología y, por favor, no le pidas a ChatGPT que redacte tu currículum sin revisarlo dos veces.