Décadas atrás, cuando la IA era todavía un proyecto futuro, circulaban opiniones sobre su factibilidad, fecha de aparición y alcances como herramienta. También había algunos temores que básicamente se referían a la posibilidad de que, por residir en máquinas con tecnologías que constantemente incrementaban su potencia, precisión y velocidad, pudieran albergar una inteligencia capaz de poner en peligro a la especie humana. De ahí, el concepto de “Singularidad”, un término utilizado en Física para describir entornos donde la ciencia no es capaz de definir las leyes que los rigen*
*Ray Kurzweil, The Singularity is Near, Penguin Books, Nueva York, 2006.
En nuestros días, estamos viviendo una revolución relacionada con la IA porque ahora podemos utilizarla, concretamente lo que se refiere a la búsqueda y empleo de contenidos, algo que hoy se encuentra disponible para amplios sectores de la sociedad. Se trata de modelos que interpretan con gran eficacia los lenguajes humanos, y cuyo avance en progreso y adaptabilidad son palpables. De ahí que surge la inquietud sobre hasta dónde avanzará esta tecnología y qué límites habrá para superar en delante o para resignarse a nunca lograrlo.
El objeto de este boletín es tratar el tema de esos límites.
Durante las últimas décadas, se ha publicado diversos pronósticos sobre las posibles funciones de la IA, señalando aquellas que serán alcanzadas y también las que no podrán ser superadas y estas últimas -curiosamente- comparten algo en común: todos los límites señalados como insuperables han resultado errados. En la década de los 60s. aparecieron los primeros Chatbots, un intento para que las maquinas interactúen con los seres humanos. En 1997, un computador apodado Deep Blue derrotó a Gary Kasparov campeón mundial de ajedrez, y en 2011, otro, de nombre “Watson” derrotó en forma aplastante a los campeones previos del concurso de TV Jeopardy! que se desarrolló 100% en forma verbal.
En los últimos años, el crecimiento de las capacidades de la IA ha sido exponencial, tanto en los laboratorios de desarrollo como en su utilización en la vida diaria, incluyendo aquellas que fueron estimadas como imposibles. Los límites existen todavía, pero cada vez parece menos aconsejable apostar contra su superación.
Hay una relación entre los asuntos humanos y cómo los registra un computador, si nuestros registros responden solo a hechos, simples y crudos, estaríamos en un primer peldaño que llamaremos DATA: por ejemplo, los números de una guía telefónica, sin ninguna identificación adicional, que no nos revela nada de su contenido, ni nos dice nada concreto. Si luego nos comunican que esa DATA contiene números telefónicos, tenemos ya un contexto o significado, sabemos a qué se refiere ese registro cargado, con lo cual pasamos a un siguiente peldaño que llamaremos INFORMACIÒN. Si luego nos dan una interpretación de esa información, tal como que esos números telefónicos corresponden a los celulares de los miembros del Directorio de una empresa, podríamos ascender un escalón más y llamarlo CONOCIMIENTO. En este peldaño ya podría una IA hacer uso práctico de este contenido. Ese paso adicional podría habilitar una acción posible: emitir una comunicación a cada uno de los miembros de ese directorio. Ese nuevo paso nos llevaría a un escalón que contiene esa acción, desarrollada mediante una decisión, y al cual llamaremos SAPIENCIA. Como veremos más adelante, este escalón podría no ser el último pues cabría analizar cuál fue el resultado de la acción desarrollada, operación que constituiría un JUICIO emitido que, si no es preparado por una persona, sino que es programado para que se realice automáticamente, representaría una función IA.
Veamos ahora, cuáles serían las acciones que, siendo reservadas a los seres humanos, consideraríamos como hitos en el camino de desarrollo de una IA. Una acción que parece englobar todo lo que calificamos como inteligente es razonar. Esa función se usa para resolver problemas, simples o complejos y fue considerada en el pasado como un límite tal vez no superable, pero como ya hemos visto, las computadoras han logrado romper esas barreras, demostrándose lo contrario.
Otra valla aparentemente insalvable fue el procesamiento del lenguaje natural (NLP en sus siglas en inglés). Nuestro lenguaje natural, es decir aquel que utilizamos para comunicarnos verbalmente con otras personas, contiene “figuras literarias” tal como la metáfora: “el tiempo es oro”, la hipérbole: “te lo he dicho mil veces”, la ironía: “qué gracioso eres” para expresar lo contrario, la paradoja: “solo sé que no sé nada“ y otras como la personificación, la onomatopeya, hipérbaton, etc. ¿Podemos concebir que una máquina entienda el significado de una ironía, si expresa algo distinto, o precisamente lo opuesto a la realidad? Esto, sin embargo, ya está logrado. Las computadoras, siguiendo un razonamiento similar al que los humanos hacemos al comunicarnos entre nosotros, interpretan correctamente el mensaje. Y esto también se aplica a expresiones falsas que llamamos bromas, pero que la IA discierne correctamente como humorístico o como serio.
Otra barrera que se pensó insalvable fue la de la creatividad. “Las computadoras no pueden crear información” se decía, pero sí lo hacen: crean textos y obras artísticas como melodías o pinturas. Y claro, se dijo que eran solo recomposiciones de partes de obras ya creadas que habían sido reconstruidas, sin considerar que los escritores, pintores y compositores humanos también suelen basarse, para sus creaciones, en experiencias previas de otros escritores, músicos o pintores anteriores.
La percepción del entorno en tiempo real también ha sido considerada como algo imposible de automatizar. Esta capacidad ahora la vemos superada en los robots, los vehículos autónomos, drones, etc. Y se necesita no solo ubicar los objetos alrededor, sino definir si están en movimiento o en reposo, calcular su velocidad y cuál será su trayectoria a fin de no colisionar.
Últimamente se menciona mucho la inteligencia emocional. Es un modo de tener consciencia acerca del modo en que las cosas deben ser expresadas para mantener el interés, consideración o respeto de las personas a quienes nos dirigimos. También eso ya existe. Hay innumerables casos de usuarios de chatbots que adquieren una relación emocional con ellos. Incluso ya se está planteando la conveniencia de que las IA generativas, excluyan de su lenguaje las referencias a su accionar expresado en primera persona para evitar esos vínculos que falsean una realidad que, según opiniones, debería mantenerse libre de distorsiones.
Las alucinaciones encontradas en los primeros productos IA, constituyen algo distinto a los casos anteriores, han sido motivos de crítica y parecerían como un retroceso en la performance de la IA. En realidad, son simplificaciones que ciertos modelos utilizan con el fin de no defraudar diciendo “no sé” y cumplir con dar una respuesta de la cual no tienen toda la información necesaria. Ya se está tratando de corregir ese error, proporcionando más información a los modelos, lo cual podría encarecerlos. Dicho sea de paso, no podemos negar que esa actitud, es también común dentro de muchos humanos que no queremos aparecer como fuera de onda o ignorantes, y arriesgamos una respuesta de la que no tenemos total certeza dando la que pensamos “más probable”.
Veamos ahora lo que nos espera en el futuro, aquello que aún no tenemos, los límites que debemos trabajar para superarlos a partir de hoy.
En este campo hay lo que ya se tiene conocido y proyectado, al menos con un nombre, como Inteligencia Artificial General o IAG. Tenemos hoy súper IAs en determinados campos del conocimiento que parecen conocer todo el tema de su especialidad, pero que tal vez carecen de otros conocimientos, como la percepción de su entorno en tiempo real. IAG se concibe como un modelo que es tan inteligente como un humano, y que se desarrolla en todos los campos que usualmente domina una persona, todo en un solo modelo o sistema.
El siguiente límite estaría en un sistema que supere al ser humano en todos los dominios, algo que en el presente momento sería materia solamente para la ciencia ficción, no que tengamos que concebir como un límite insuperable, sino que no lo hemos alcanzado aún.
Otro asunto que aún tenemos por resolver es el de la sostenibilidad, modelos que logran hacer cosas formidables, pero con un excesivo consumo de recursos tales como energía y presupuesto, al punto de hacerlo inviable para su uso generalizado. Para estos casos se requiere desarrollar modelos de tamaño correcto, pero con toda la funcionalidad y precio requerido. Esta meta se ve claramente viable, pero está todavía por ser alcanzada.
Otra área limitante y que solo la tenemos hoy como ficción es la autoconciencia. ¿Podemos desarrollar un sistema IA que sea consciente de sí mismo? No sabemos todavía la respuesta a esta pregunta, No es una pregunta que pueda catalogarse como de ciencia de la computación. Es algo que cae dentro del campo de la Filosofía y, por lo tanto, no podemos lidiar con algo cuya respuesta no llegamos siquiera a concebir, tal como lo vimos cuando analizamos el entendimiento. Un sistema informático puede darnos muchísima información, pero si nos preguntamos si ese sistema en realidad es consciente del conocimiento que nos transmite, ¿Sabe realmente el significado de lo que responde? Siempre nos quedará la duda de si realmente comprende lo que nos dice o si es una simulación forzada por cumplir las instrucciones que los humanos han colocado en su interior. La respuesta a esta pregunta no es clara y categórica, muchos especialistas piensan que solo es una simulación de pensamiento e inteligencia. Esta es también una pregunta aún no respondida, donde la línea que marca el límite de autoconciencia y el entendimiento deberían pasar, si el sistema artificial logra cubrir ese contexto más amplio que a nosotros nos gustaría alcanzar.
Y podemos seguir con otros conceptos: lo que conocemos como juicio. Como ya se comentó, este tema se encontraría en la cúspide de la pirámide mencionada anteriormente, aquella que se inicia con una base de Data, que luego se supera en el siguiente piso a Información, pasa a un tercero que llamamos Conocimiento y termina en la aplicación de ese Conocimiento y lo denominamos Sapiencia. Esta sería, la evaluación de lo actuado, a lo cual podemos llamarlo juicio. Por ejemplo, ¿Podemos esperar de una IA un cabal juicio ético sobre una situación dada y determinar qué estuvo bien y qué estuvo mal? Y para ello ¿Podríamos observarnos a nosotros mismos y preguntarnos si éste es un problema difícil de responder aun para las personas más experimentadas? ¿Cómo ahora pretendemos que una creación humana alcance e incluso supere ese paso y lo haga con resultados satisfactorios? ¿Alguien podría programar un sistema IA capaz de emitir juicios, y para ello imaginar las reglas que deberían establecer ese juicio para luego colocarlas en las instrucciones de creación de ese modelo? Tal vez ni tengamos la receta para hacerlo.
Estas limitaciones realmente no las hemos superado, pero no se ven mucho como limitaciones de la tecnología o del avance de la ciencia de la información, sino más bien serían las limitaciones que tenemos los humanos acerca de nuestra propia naturaleza. Podremos argüir, para evadir el compromiso y responder, que muchos juicios serían subjetivos, regresando a la opinión referida a una composición musical. No habrá una respuesta correcta o equivocada, diremos que “depende de los gustos”, A lo más podríamos, tal vez, pedir una evaluación sobre el futuro musical de esa composición y, en ese caso, recibir una información útil, pues podría estar sustentada en estadísticas de composiciones similares en condiciones, también similares, del mercado. Pero eso no sería un juicio ético.
Veamos un caso más, lo que se conoce como “sentido común”, pero, realmente ¿Es “común” ese sentido, es decir, compartido por la generalidad de personas? Aquí también tenemos limitaciones, pero parecerían más de nuestra comprensión humana de la realidad que del avance de la ciencia y la tecnología.
Hay algo similar que sí ha tenido últimamente algunos pasos importantes: la formulación de metas. En el mundo empresarial, la IA se ha inclinado en los últimos meses a lo que se conoce como la IA Agéntica, esto es, a la que utiliza Agentes IA para desarrollar y coordinar funciones variadas que incluyen la toma de decisiones de negocio en forma autónoma, sin requerir la supervisión permanente de las personas. Estos modelos, en base a los avances de los procesos que ellos disponen y ejecutan, toman también decisiones sobre las metas a alcanzar, sin embargo, generalmente se refieren a metas parciales, de procesos concretos y de fácil definición y ejecución, no se está dejando las metas globales a su cargo, menos aún a metas que no se refieren al negocio mismo sino a otro tipo de valores. Es esperable que en ese camino se siga avanzando hasta un límite que tal vez tenga otras consideraciones más generales.
También tenemos el tema de las sensaciones. ¿Las IAs sienten, perciben el entorno, lo que está sucediendo? En el caso de los robots, eso sí se da y es una de sus principales funciones, pero no están generalizadas, sino que funcionan solo en algunos modelos.
Respecto de las emociones, sobre todo si pensamos en emociones profundas. ¿Los sistemas IA sienten de forma similar a la de los humanos?, ¿Pueden experimentar alegría, logro? Pero, nuevamente, ¿Acaso no existen personas que sienten todo esto diferente a lo que nosotros percibimos de lo que vivimos? Esta adición de nuestras experiencias será algo difícil de incluir en nuestros modelos IA futuros. En el caso de que sean incluidas ¿Estaremos seguros de que son reales y no meras simulaciones?
Finalmente, una vez que hemos visitado las diferentes limitaciones a fin de que la IA sea nuestro reflejo, sería momento de ver el panorama de más lejos, tratando de establecer el rol de la IA en relación con nuestra existencia como especie humana, analizar cómo podemos aprovecharla para que nos acompañe en nuestro rol en el mundo. Tal vez lo veamos más claro si empezamos por definir cuáles serían las cosas que debemos lograr, y también por qué son necesarias. Una vez establecido eso, vayamos al rol de la IA y veamos cómo esa herramienta nos puede ayudar en ese empeño, y luego qué debe hacerse para encargar a la IA a que lo haga. La IA podrá desarrollar esas tareas más efectiva, precisa y velozmente que nosotros con esas definiciones, y aprovechando la experiencia que tenemos en el desarrollo logrado hasta la fecha, planear las tareas de investigación y desarrollo que la perfeccione y complemente.
FUENTES: IBM Newsletter Nov 6, 2025
Ray Kurzweil, The Singularity is Near, Penguin Group, Nueva York, NY 10014, 2006.