Sobre la diferencia entre una herramienta extraordinaria y el proyecto más caro del ego humano
Uso inteligencia artificial todos los días. La integro en mis procesos, la recomiendo a mis clientes, construyo sobre ella parte de lo que hacemos en las empresas. No escribo esto desde el escepticismo ni desde el miedo a la tecnología. Lo escribo precisamente porque trabajo con IA de cerca, veo con más claridad la diferencia entre aprovechar una herramienta extraordinaria y algo que me parece, con toda honestidad, la máxima expresión del ego humano disfrazado de innovación.
Crear una inteligencia superior a la nuestra no es el siguiente paso lógico del progreso.
Hacia la singularidad tecnológica
Antes de opinar, hay que aterrizar algunos términos.
La singularidad tecnológica es el concepto que describe el momento hipotético en que la inteligencia artificial supera de manera irreversible la inteligencia humana y comienza a mejorarse a sí misma de forma autónoma, generando un crecimiento cognitivo tan acelerado que se vuelve impredecible e incontrolable para nosotros. No es un sistema que resuelve problemas mejor que tú. Es un sistema que diseña sistemas mejores que él mismo, indefinidamente, sin necesitar tu aprobación para hacerlo.
El término fue popularizado por Ray Kurzweil, ingeniero y futurista que lleva décadas prediciendo que ese momento llegará alrededor de 2045. Kurzweil. Fue director de ingeniería en Google durante años y sigue siendo una de las referencias intelectuales más citadas en el ecosistema de IA. Su libro La singularidad está cerca es prácticamente texto fundacional para quienes trabajan en inteligencia artificial general.
Quienes están empujando activamente hacia ese horizonte hoy tienen nombres conocidos. Sam Altman, CEO de OpenAI, ha declarado públicamente que el objetivo de su organización es desarrollar inteligencia artificial general, un sistema con capacidades cognitivas equivalentes o superiores a las humanas en prácticamente cualquier dominio. Demis Hassabis, cofundador de Google DeepMind, comparte esa visión y dirige uno de los laboratorios de investigación más avanzados del mundo en esa dirección. Elon Musk fundó xAI con retórica similar, aunque su posición oscila con una consistencia que él mismo parece no seguir.
No son ignorantes. Son algunas de las mentes más brillantes de su generación y eso es exactamente lo que preocupa.
El contexto que pocos quieren nombrar
La IA que usamos hoy no es superinteligencia. Es inteligencia artificial estrecha: sistemas extraordinariamente capaces dentro de dominios específicos sin capacidad de rediseñarse a sí mismos.
Esa IA ya supera al humano promedio en síntesis de información, identificación de patrones, generación de hipótesis y velocidad de procesamiento. Y con eso, con eso solo, hay suficiente para transformar la manera en que trabajamos, aprendemos, tomamos decisiones y construimos negocios. No necesitamos más para capturar el valor extraordinario que la IA tiene para ofrecer.
El salto que propone la singularidad con la inteligencia artificial geeneral (IAG) no es una mejora de lo que ya existe. Es una ruptura de categoría. Pasar de una herramienta que amplifica el criterio humano a un sistema que lo reemplaza, que se mejora solo, que opera en una dimensión cognitiva que nosotros no podemos seguir ni auditar.
Y la pregunta que nadie en ese ecosistema responde con suficiente claridad es: ¿para qué, exactamente?
El ego en su máxima expresión
Las respuestas que circulan son nobles en la superficie. Para resolver el cambio climático. Para curar enfermedades. Para optimizar sistemas complejos que el cerebro humano no puede procesar. Todas válidas y alcanzables, por cierto, con herramientas de IA que ya existen y que no requieren superar la inteligencia humana para funcionar.
Lo que distingue la IA útil de la IAG es la intención detrás más allá de la capacidad técnica. Cuando uno mira con honestidad la retórica de los proyectos más ambiciosos —las declaraciones públicas de Altman sobre IAG (o AGI en inglés) como destino inevitable, la narrativa de Kurzweil sobre la fusión humano-máquina como próximo paso evolutivo— lo que encuentra debajo de la filantropía acelerada es la fantasía de ser los arquitectos del siguiente salto de la especie.
Esto merece ser llamado por su nombre precisamente porque viene envuelto en un lenguaje de progreso que hace difícil cuestionarlo sin parecer reaccionario.
Los riesgos que importan
La abdicación silenciosa del criterio humano. El riesgo más inminente es el escenario cotidiano donde las organizaciones delegan gradualmente su juicio a sistemas que hacen el trabajo más cómodo, hasta que nadie recuerda cómo pensar sin ellos. Solo con el uso cotidiano de herramientas que eventualmente dejan de ser un apoyo y se convierten en el criterio mismo. He visto esto en clientes y es casi invisible hasta que alguien pregunta qué pasaría si el sistema falla.
El problema de la alineación no tiene solución todavía. Alinear una IA significa asegurarse de que optimice para lo que realmente queremos, no para una versión técnica de lo que pedimos. Los valores humanos son contradictorios, contextuales y notoriamente difíciles de formalizar. Una IA a la que le pides que maximice el bienestar humano sin especificación precisa tiene libertad de encontrar soluciones que satisfagan el criterio y sean moralmente inaceptables. Esto es el problema central del campo y los proyectos de superinteligencia avanzan mientras ese problema sigue completamente abierto.
La concentración de poder no tiene precedente histórico. Una superinteligencia no existe en abstracto: existe en manos de alguien. OpenAI, Google, xAI. Y la ventaja que otorga un sistema cognitivo superior sin contrapeso institucional rompe todos los equilibrios que conocemos. La regulación, la competencia, la diplomacia… todo fue diseñado para un mundo donde los actores operan en el mismo plano cognitivo, más o menos. Ese supuesto está a punto de romperse, y las instituciones que deberían regularlo operan en ciclos de años mientras la tecnología avanza en ciclos de meses.
La dependencia civilizatoria es el riesgo que menos se nombra. Si delegamos suficientes decisiones críticas a sistemas que no podemos auditar ni comprender completamente, perdemos algo que no tiene precio: la capacidad institucional de funcionar sin ellos. Una civilización que no puede gobernarse sin su IA es frágil de una manera completamente nueva y sin asomarse todavía en los manuales de gestión de riesgo.
Lo que puedes hacer con esto
Audita qué decisiones en tu organización ya las está tomando la IA, aunque no lo llames así. Los sistemas de scoring, los algoritmos de pricing dinámico, los modelos de selección de talento… muchos ya operan con total autonomía aunque exista un humano a cargo. Saber exactamente dónde está la línea entre soporte y sustitución es el primer paso para gestionarla con intención.
Diseña fricción deliberada en los procesos críticos. Mantener la capacidad de razonar sin el sistema —de manera regular, documentada, institucionalizada— es la única forma de garantizar que esa capacidad no se atrofie. No necesitas prescindir de la herramienta.
Distingue entre usar IA y normalizar la singularidad. Son conversaciones completamente distintas y merecen posiciones distintas. Integrar IA en tus procesos de negocio es una decisión de eficiencia y competitividad que tiene sentido hoy. Financiar o normalizar el proyecto de crear algo que supere la inteligencia humana es una decisión filosófica y política que merece más escrutinio del que recibe en las salas de juntas.
Participa en la conversación de gobernanza aunque no sea tu industria principal. Las reglas que se están escribiendo ahora van a definir el marco en el que tu negocio va a operar en los próximos veinte años. Esperar a que Altman, Hassabis o los reguladores europeos lo resuelvan solos y después adaptarse es la estrategia más cara que existe.
Yo uso IA y la seguiré usando. La diferencia está en para qué. Una herramienta que amplifica mi criterio es extraordinaria mientras que un sistema diseñado para reemplazarlo o para reemplazar el criterio colectivo de la humanidad, no es el siguiente paso del progreso.
Es el ego humano en su expresión más peligrosa y merece ser cuestionado con la misma energía con la que se financia.
La variable no es la inteligencia de la máquina. La variable es si los humanos tenemos la inteligencia suficiente para saber hasta dónde debemos construir.
