¿Hasta dónde queremos construir?
Uso inteligencia artificial todos los días. Está integrada en buena parte de mis procesos, en proyectos que desarrollamos desde Magio y en decisiones que ayudo a tomar a otras organizaciones.
Cuanto más la utilizo, más extraordinaria me parece y también más me inquieta.
Durante los últimos años hemos pasado de hablar de modelos capaces de generar texto, imágenes o código a sistemas cada vez más autónomos, agentes capaces de ejecutar tareas y laboratorios que plantean abiertamente el desarrollo de una inteligencia artificial general y, eventualmente, de sistemas que podrían superar ampliamente las capacidades humanas.
Lo curioso es que esa última parte empieza a mencionarse como si fuera simplemente la siguiente estación del viaje.
Como si construir algo más inteligente que nosotros fuera la consecuencia natural de haber aprendido a construir inteligencia artificial.
Honestamente, no estoy segura de que debamos aceptar esa premisa con tanta facilidad.
La singularidad dejó de ser una idea de ciencia ficción
La singularidad tecnológica lleva décadas circulando entre futuristas y tecnólogos. Ray Kurzweil la popularizó como el momento en que el desarrollo tecnológico, impulsado por inteligencias capaces de mejorar sus propias capacidades, podría acelerarse hasta volverse difícil de anticipar desde nuestra perspectiva actual.
Durante mucho tiempo aquello podía leerse como una especulación sobre un futuro lejano, hoy resulta menos abstracta.
Los principales laboratorios de inteligencia artificial hablan abiertamente de AGI, desarrollan sistemas con mayores niveles de autonomía y compiten por ampliar capacidades que hace apenas unos años parecían improbables.
Todavía estamos lejos de una inteligencia que pueda mejorarse indefinidamente por sí misma y tampoco existe consenso sobre qué significaría exactamente haber alcanzado una AGI. Pero lo que sí está ocurriendo es la posibilidad de construir sistemas cada vez más capaces está empezando a asumirse como un objetivo deseable por defecto.
Poder construir algo y decidir que debemos construirlo son dos preguntas diferentes.
La IA que tenemos ya plantea una transformación enorme
A veces la carrera hacia sistemas más poderosos hace que perdamos de vista lo que ya tenemos delante.
La IA actual puede ayudarnos a analizar grandes cantidades de información, explorar alternativas, generar hipótesis, automatizar procesos, aprender más rápido, desarrollar software, investigar y ampliar capacidades que antes estaban limitadas por tiempo, especialización o recursos.
Todavía estamos aprendiendo a incorporar todo eso.
En muchas organizaciones ni siquiera hemos resuelto preguntas bastante básicas sobre calidad de datos, gobernanza, responsabilidad, seguridad o qué decisiones deberían permanecer bajo criterio humano.
Sin embargo, mientras intentamos responderlas, el horizonte tecnológico continúa moviéndose hacia sistemas con mayor autonomía.
Me pregunto, ¿qué problema humano exige que construyamos una inteligencia superior a la nuestra?
Ante ello encontramos respuestas poderosas como curar enfermedades, acelerar descubrimientos científicos, enfrentar el cambio climático, comprender sistemas cuya complejidad supera nuestra capacidad individual.
Si bien son grandes desafíos, lo que me cuesta aceptar es que la respuesta a todos ellos deba conducir necesariamente a crear un sistema cognitivo cuyo funcionamiento eventualmente pueda exceder nuestra capacidad para comprenderlo, supervisarlo o controlarlo.
Esta es señal más cercana que la superinteligencia
Quizá el mayor riesgo ni siquiera necesite esperar a que aparezca una inteligencia superior. Lo estoy viendo en algo mucho más cotidiano: la facilidad con la que empezamos a delegar nuestro criterio.
Primero utilizamos la IA para ayudarnos a pensar, después aceptamos su recomendación y más adelante dejamos de revisar algunas respuestas. Si ese proceso continúa, podemos terminar conservando formalmente la decisión mientras el razonamiento que la sostiene ya ocurre en otro lugar.
Eso puede suceder en una persona y también en una organización.
Una empresa incorpora modelos para seleccionar candidatos, recomendar precios, priorizar clientes, evaluar riesgo o distribuir recursos. Cada sistema resuelve una pequeña parte del problema y, poco a poco, empiezan a aparecer decisiones que nadie toma completamente porque están repartidas entre modelos, reglas, automatizaciones y personas.
No hace falta imaginar una máquina todopoderosa porque la dependencia puede construirse decisión por decisión.
Me parece mucho más importante observar eso hoy que discutir únicamente sobre un hipotético escenario de 2045.
El criterio puede atrofiarse sin que nos demos cuenta
Una herramienta extraordinaria puede seguir siendo extraordinaria y, al mismo tiempo, producir dependencia cuando dejamos de ejercitar aquello que delegamos.
Como cuando dejamos de utilizar una capacidad durante suficiente tiempo, esa capacidad se deteriora.
Con el razonamiento puede ocurrir algo parecido.
Si un equipo consulta siempre a un sistema antes de construir una hipótesis propia, quizá obtenga respuestas mejores durante un tiempo. Pero también puede dejar de desarrollar algunas de las capacidades que necesita para reconocer cuándo el sistema está equivocado.
Esto plantea un problema delicado. Cuanto más competente sea la IA, menos incentivos tendremos para cuestionarla.
Precisamente cuando más difícil resulte detectar sus errores.
Por eso pienso que el diseño de sistemas humano-IA deberían preguntar: ¿qué capacidades humanas queremos seguir ejercitando aunque la máquina pueda realizarlas mejor o más rápido?
No tengo una respuesta universal, pero creo que deberíamos empezar a tener esa conversación antes de delegar por completo.
También estamos concentrando capacidad
Hay otra dimensión que tampoco depende de alcanzar la singularidad.
Los sistemas de inteligencia artificial más avanzados requieren enormes cantidades de capital, infraestructura, energía, datos y talento. Eso significa que buena parte de la capacidad para desarrollar los modelos más poderosos está concentrándose en un número relativamente pequeño de organizaciones.
Si esos sistemas se convierten además en infraestructura para tomar decisiones, producir conocimiento, operar empresas o desarrollar nuevas tecnologías, su influencia deja de limitarse al mercado tecnológico.
Empieza a tocar la arquitectura de poder.
Quién construye los modelos, quién determina sus límites, qué información utilizan, bajo qué reglas operan y quién puede auditar sus decisiones dejan entonces de ser preguntas exclusivamente técnicas.
Se vuelven preguntas económicas, institucionales y políticas. Ante ello probablemente llegamos tarde si esperamos a tener superinteligencia para empezar a discutirlas.
La carrera también está modificando la pregunta
Tal vez esta sea la señal que más me inquieta. Durante años preguntamos qué podía hacer la inteligencia artificial, después empezamos a preguntarnos cómo utilizarla y ahora una parte del ecosistema tecnológico parece haberse movido hacia otra lógica: cuánto más podemos aumentar su capacidad.
Cada generación debe superar a la anteriorcon más razonamiento, más autonomía, más capacidad de acción, más agentes, más integración.
La dirección parece evidente porque tecnológicamente podemos avanzar hacia ella, pero el progreso tecnológico nunca ha sido únicamente una cuestión de capacidad. También implica decidir qué queremos construir alrededor de esa capacidad.
Por eso creo que estamos dedicando muchísima energía a conseguir máquinas más inteligentes y bastante menos a definir qué relación queremos tener con ellas cuando lo sean.
La señal que estoy observando
No creo que debamos frenar el desarrollo de inteligencia artificial ni tengo interés en romantizar un mundo previo a ella. La seguiré utilizando porque ya amplifica de manera extraordinaria muchas de mis capacidades.
Lo que me preocupa es que estemos normalizando la búsqueda de una inteligencia superior como destino inevitable antes de haber construido acuerdos suficientes sobre los límites, la responsabilidad y el papel que queremos conservar los humanos dentro de esos sistemas.
Quizá la singularidad nunca llegue como la imaginaron sus primeros defensores.
Quizá el verdadero cambio ocurra mucho antes, cuando descubramos que buena parte de nuestras decisiones ya dependen de sistemas que apenas comprendemos y que recuperar las capacidades delegadas resulta mucho más difícil de lo que imaginábamos.
Por eso, mientras todos observamos cuánto más inteligente puede llegar a ser la máquina, me pregunto: ¿estamos desarrollando con la misma velocidad el criterio necesario para decidir hasta dónde queremos que llegue?
