En los últimos meses se ha escrito y opinado mucho sobre Inteligencia Artificial (IA), en particular sobre la estrella del momento: el ChatGPT de Open AI. Se trata grosso modo de un robot -o chatbot– que podemos utilizar desde un navegador o descargar en nuestros celulares. A este robot podemos consultarle prácticamente sobre todo y solicitarle infinidad de complejísimas tareas. A diferencia del tradicional libro y o tutorial online, con el ChatGPT es posible interactuar de manera coherente, preguntar, repreguntar, profundizar sobre un punto, revisar otro. En fin, se trata de un “infinito Leibniz”[1] de bolsillo. Hace poco el historiador y filósofo israelí Yuval Noah Harari advirtió que el avance de la IA podría desapropiar a los seres humanos de su -¿hasta ahora?- singular capacidad narrativa y que de ello se siguen importantes consecuencias político-sociales. La problemática planteada por Harari concierne, claro está, a todo el sistema educativo. ¿Qué impacto tiene la IA en el ámbito de la educación formal y cómo se podría enfocar la práctica de la enseñanza ahora que existe una tecnología tan poderosa como lo es el ChatGPT? Hacia el final de esta nota planteo la necesidad de incorporar la dimensión histórica-epistemológica en la formación de técnicos de nivel superior.
*
Yuval Noah Harari ha titulado que la IA está hackeando el sistema operativo de la civilización humana.[2] Como sabemos, el sistema operativo de una computadora como la que usamos a diario provee una serie de abstracciones que vinculan el hardware -el microprocesador, la memoria RAM, los periféricos, etc.- con el software de aplicaciones. Para ello, el sistema operativo debe administrar los recursos de hardware y proveer servicios -y otorgar permisos- a los programas que utilizamos a diario. Sistemas operativos como Android, Windows o Linux llevan las riendas de nuestro ordenador.
Harari focaliza en la capacidad de la IA para emular los usos del lenguaje humano. Sostiene que el rol de un sistema operativo en una computadora es comparable con el rol que cumple el lenguaje en nuestra civilización: “El lenguaje es el material con el que está hecha casi toda la cultura humana”. Nos detengamos sobre esta comparación.
Asumamos por un momento que nuestro cerebro es comparable con el ensamble microprocesador/memoria RAM/disco duro. Nuestro cerebro procesa información que está depositada en la memoria de corto plazo, mientras que buena parte de la información que almacenamos no está disponible de manera inmediata -memoria de largo plazo. El lenguaje constituye el medio que, en virtud de sofisticadas codificaciones, vincula el cerebro con el ambiente: >_ Hello, world! De manera semejante al software de una computadora, la estructura del lenguaje se compone -producto de un complejo proceso evolutivo- de diversas capas. A mayor abstracción, más difusa resulta la conexión entre un término lingüístico y el mundo. El concepto, decía Nietzsche, es el último humo de la realidad que se evapora. Similarmente, un sistema operativo actual como Android se compone de decenas de capas. De los primeros sistemas de procesamiento por Lotes, que para ejecutar una serie de programas aún necesitaba de la presencia activa de un operador -trabajo que iba a tener una corta vida con el avance de la virtualización del hardware-, pasando por los primeros sistemas operativos concurrentes como Unix o CP/M -que permitían realizar varias tareas “a la vez” empleando consolas virtuales-, hasta los actuales sistemas operativos para smartphones en los que el distanciamiento con los componentes de hardware del dispositivo es prácticamente insondable. Sistema operativo y lenguaje humano, ambos, son altamente restrictivos -“somos esclavos de nuestras palabras”, se dice…-, mas también nos abren infinidad de caminos para explorar. Ahora bien, nuestra relación con la computadora cambió considerablemente con la abstracción ganada las últimas décadas, en particular, con el desarrollo de la interfaz gráfica y las pantallas táctiles. Construimos mundos virtuales y atendemos poco -y mucho desconocemos- a la base material que soportan tales mundos -hardware. De modo parecido, el lenguaje, tomando distancia considerable de aquello que con nostalgia todavía llamamos naturaleza, es creador -citando a Hatari- de lo propiamente humano: la cultura. ¿Qué sucede entonces cuando una tecnología tiene la capacidad de reproducir con notable fidelidad el lenguaje humano? ¿Qué tipo de mundo habitaremos cuando un poema, una pintura sobre lienzo o una canción compuesta por una IA sea indistinguible de una compuesta por una persona? Escribe Harari:
“La revolución de la IA nos enfrenta cara a cara con el genio maligno de Descartes, con la caverna de Platón, con el Maya. Si no tenemos cuidado, podríamos quedar atrapados detrás de una cortina de ilusiones imposible de arrancar y de advertir que allí se encuentra”.
*
Se afirma en un pasaje célebre de la cultura CyberPunk:
El hombre ha alcanzado su individualidad a partir de sus recuerdos (…) cuando hicieron posible que las computadoras externalizaran su sistema de memoria, debieron haber considerado todas las implicancias que ello tendría. (Ghost in the shell, 1995, min. 48:50)
Restando un poco de dramatismo al asunto, Julián Varsavsky nos recuerda -en una nota publicada el 22 de julio pasado en Página 12– que el ChatGPT sólo calcula y procesa datos: “(…) es un buscador sofisticado que organiza muy bien las respuestas”.[3] Varsavsky no da crédito a las historias de ciencia ficción que tantas veces tematizaron el paso -o más bien, el salto- a la auto-conciencia de un sistema informático. Estamos en un terreno pantanoso para el análisis filosófico. Una vez que la tecnología informática haya logrado que las respuestas dadas por un algoritmo sobre los temas más diversos sean indistinguibles de las que puede dar una persona -o mejor, una vez que las máquinas hayan aprobado el test de Turing-, ¿qué constituiría entonces lo propiamente humano? Por otra parte, si la exitosa clave para el procesamiento del lenguaje natural depende fundamentalmente de la capacidad de almacenamiento y combinación de grandes cantidades de datos -combustible de la IA-, es inevitable preguntar sobre el origen de estos datos. Propongo un giro a lo planteado por Harari. Recordemos sus dichos: “la IA ha hackeado el sistema operativo de la civilización humana”. Ahora bien, si sistemas operativos como Android, Windows y iOS hacen posible la acumulación de cantidades colosales de datos -en un ejercicio abusivo y opaco de administración de los recursos de nuestros dispositivos-, ¿no serían entonces ellos los responsables principales de hackear a la civilización humana? Si esto es así, antes que adoptar una posición de distanciamiento, temor o negación de estas nuevas tecnologías, deberíamos prestar mayor atención a la formación de futuros técnicos y docentes adoptando una perspectiva para la educación tecnológica que priorice, antes que el solo conocimiento del uso y utilidad de las tecnologías informáticas, el estudio de los principios de funcionamiento de tales tecnologías, así como el estudio de la historia y de los centros y entornos de producción tecnológica. En otras palabras, considero que deberíamos desplazar con urgencia a los futuros docentes y técnicos del lugar de meros receptores pasivos de las tecnologías informáticas i.e., del mero rol de usuarios. A continuación, y ya para cerrar, haré algunas consideraciones críticas sobre la formación de programadores
La formación de técnicos
El filósofo de la técnica francés Gilbert Simondon (1924-1989) sostiene que el término cultura proviene de cultivo -“la noción de cultura se ha extraído de una técnica emparentada con la crianza de animales”-[4] y que mientras la cultura es percibida como desinteresada y depositaria de valores, los esquemas de la tecnicidad son percibidos como la mera disposición de los medios para alcanzar determinados fines utilitarios. Así, mientras que la cultura se constituye como el reino de los fines, la técnica es el reino de los medios. Los esquemas de la tecnicidad, afirma Simondon, se encuentran bajo el yugo y son tutelados por la cultura.
Sin embargo, la cultura puede ser entendida como “la crianza del hombre por parte del hombre”, algo que sucede en un microclima humano y puede transmitirse a través de las generaciones. Explica Simondon:
“Sería justo no utilizar el término técnica para oponerlo al término cultura: ambas son actividades de manipulación, y por lo tanto son técnicas: son incluso técnicas de manipulación humana, porque ejercen una acción sobre el hombre por intermediación del medio en el caso de las actividades que se denominan técnicas, y directamente en el caso de la cultura”.
A la tesis de Simondon de que existe una falsa oposición entre cultura y técnica se sigue la idea, casi como un corolario, de que los productos de la técnica están cargados de los valores de la cultura. Y más aún: frente a cambios tecnológicos de magnitud, se configuran nuevas relaciones del hombre con el medio. Simondon, en relación con este punto, habla de “un gran gesto autonormativo que tiene un sentido evolutivo (…) que modifica la relación de la especie humana con el medio”.[5]
Los diseños curriculares de los trayectos de formación técnica de nivel superior, sobretodo los trayectos de formación de programadores, deberían prestar atención a las ideas formuladas por Simondon más de medio siglo atrás. El tema requiere de un tratamiento exhaustivo y sobrepasa por mucho el margen de esta nota. Aquí docentes y egresados de las carreras orientadas al desarrollo de software -entre los que me incluyo- sostienen y expanden una representación peligrosamente naïf de la informática, representación que cala profundo en nuestra sociedad y que es reproductora de inequidades. La visión utilitarista de la técnica ha hundido en sombras los principios de constitución de las tecnologías computacionales.[6] Ahora que el ChatGPT elabora complejísimos programas computacionales en 1 o 2 segundos, ahora que una nueva tecnología reconfigura parte del tejido social en torno a ella, ¿no deberíamos cuestionar la visión instrumentalista de la formación técnica? En otras palabras, ahora que estamos en condiciones de considerar que un programador es también un instrumento reemplazable -irónicamente por sus propios productos-, ¿no deberíamos revisar qué tipo de educación se ofrece en los espacios de formación de programadores?
Siguiendo el hilo de las ideas de Simondon, debemos hacer notar en los espacios de formación técnica que una laptop o un smartphone alojan parte de la historia de cultura humana.[7] Esto indefectiblemente nos conduce a la pregunta sobre las condiciones sociales, económicas y humanas de base para el desarrollo tecnológico. Pero es muy difícil ahondar en tales cuestiones cuando los diseños curriculares excluyen asignaturas que permitan elucidar y reflexionar sobre la dimensión epistemológica y axiológica de la tecnología. O cuando las únicas preguntas válidas dentro de un aula son “¿y para qué sirve esto o aquello?”. O finalmente, cuando el ojo de la formación está puesto en las necesidades y tiempos impuestos por el mercado laboral.
Mientras la educación siga resignada a la condición de “cajanegrismo” de la informática y no se reconozca la dimensión histórica de un artefacto técnico, ilusiones como la auto-conciencia de una IA o el temor a que programadores, e incluso artistas, filósofos y docentes, sean reemplazados por máquinas, penderá sobre nosotros como una espada de Damocles.
[1]J.L. Borges utilizó esta expresión en su desopilante y genial cuento “Tlön, Uqbar, Orbis Tertius”. Se dice de Leibniz que fue el último sabio universal de la historia.
[2]https://www.ynetnews.com/article/bkszgnrvn
[3]https://www.pagina12.com.ar/569859-el-malentendido-apocaliptico-con-chatgpt
[4]Simondon, G. (1965) “Cultura y Técnica”. En: Amar a las Máquinas, Ed. Prometeo, p. 21.
[5]Simondon, G. Ibid. p. 27.
[6]Simondon utiliza la expresión “procesos de concretización” para referir a la individuación de objetos técnicos. (Cf. El modo de ser de los objetos técnicos)
[7]Será tema de mi próxima nota la siguiente ecuación: historizar = comprender.
Los comentarios están cerrados.