¿Estamos solos en el universo? (Enrico Fermi)
Alguien le preguntó a Michael Faraday, ‘¿para qué sirve la electricidad?’ Y él contestó: ‘¿Para qué sirve un bebé recién nacido?’ Siento que ahora estamos en ese momento cuando Faraday hizo sus famosas demostraciones en la Royal Institution para el público en general… Tal vez estos grandes chatbots son algo así». Demis Hassabis, Deepmind.
“Está mal, pero no esta tan mal”, diría el popular conductor Guido Kaczka, sobre estas interacciones iniciáticas con el bot.
ABSTRACT
Desde hace 3 meses vivimos obsesionados con lo que el #ChatGPT puede (o debe) hacer. Los ejemplos apabullan, los ciclos de computación que está consumiendo son interminables, y los debates que acompañan este despliegue se vuelven inacabables. Ya publicamos en este blog un par de reacciones iniciales dónde nos burlábamos (ingenuamente) del ChatBot calificándolo de loro estocástico. Pero cuando 100 millones de usuarios hacen de beta-testers, cuando el producto en cuestión se convierte en una interfaz conversacional proto-homínida y como tal en una nueva especie, y cuando las promesas de máquinas inteligentes parecen estar mas cercanas que nunca (aunque Noam Chomsky se les ríe en la cara), bien haríamos en cambiar la mirada y tomarnos mas en serio el fenómeno, es lo que hacemos en este post. Claro fieles a nosotros mismos después de tamaña excursión volvemos a lo mismo de siempre. Mientras las máquinas no sean capaces de abducir no podrán ser inteligentes (o sentientes). No estamos hablando aqui de abducción como secuestro extreterrestre ni como movimiento en que una parte del cuerpo se aleja respecto al plano de simetría medial, sino del proceso mediante el que generamos hipótesis para dar cuenta de aquellos hechos que nos sorprenden a partir de un solo ejemplo. ¿Pero quién dice que con la gran masa crítica de prompters, con las inversiones cuantiosas ya hechas por mas de U$ 22.000 millones, y con lo desesperados que estamos por aprender a preguntar todo de nuevo, no estemos yendo por el buen camino (aunque como muchas otras veces por las razones (arquitectónicas) equivocadas. Se escuchan apuestas.
1 Por fin tenemos con quien hablar
Nada casualmente la #IA apareció como palabra del año 2022 en varios diccionarios, fundaciones y buscadores. El campo de la investigación de IA nació en un taller en Dartmouth College en 1956. Los asistentes entre los que se contaban luminarias y mitos del área como Marvin Minsky, John McCarthy, Claude Shannon, Oliver Selfridge y Julian Bigelow entre otros -ninguna mujer eso sí- se convirtieron en los fundadores y líderes de la investigación de IA. Ellos y sus estudiantes produjeron programas que la prensa describió como «asombrosos«: las computadoras estaban aprendiendo estrategias para ganar a las damas, resolviendo problemas de álgebra, demostrando teoremas lógicos y hablando inglés.
Poco años antes, en 1950 en medio de una conversación informal entre Enrico Fermi y otros físicos, el italiano y padre de la bomba atómica se hizo la siguiente pregunta: «¿Somos los seres humanos la única civilización avanzada en el Universo?».
La ecuación formulada por Drake para estimar el número de civilizaciones extraterrestres con las que finalmente podríamos ponernos en contacto parece implicar que tal tipo de contacto no debería ser extremadamente raro. El descubrimiento en los últimos 30 años de mas de 5.000 exoplanetas tendería a aumentar las posibilidades de encontrar vida en otros planetas.
Sin embargo, a pesar de estas nuevas evidencias, la conclusión de Fermi de que si hubiera numerosas civilizaciones avanzadas en nuestra galaxia ya deberíamos haber entrado en contacto con ellas sigue vigente ¿Dónde están? ¿Por qué no hemos encontrado trazas de vida extraterrestre inteligente, por ejemplo, sondas, naves espaciales o transmisiones?.
La paradoja de Fermi es la aparente contradicción que hay entre las estimaciones que afirman que hay una alta probabilidad de que existan otras civilizaciones inteligentes en el universo observable y la ausencia de evidencia de dichas civilizaciones. Ni Carl Sagan, ni Jill Tarter (a diferencia de la ficcional Elie Arroway en Contacto) encontraron vida extraterrestre y el derrumbe del observatorio de Arecibo a fines de 2020 fue mas con pena que con gloria.
Pero, ¿y si estuviéramos mirando en una dirección equivocada? Si mas allá de encontrar vida (¿y de qué tipo) en otros planetas, sistemas solares o galaxias, cercanas a alejadas de la nuestra, debiéramos apuntar a encontrar otras formas de vida inteligente en el nuestro.
Una cosa no excluye a la otra. En otros posts justamente defendimos la suposición de que hay vida inteligente en la tierra en forma de animales, plantas, hongos, pero también de máquinas… conversacionales.
Entidades conversacionales stay home
Por primera vez en la historia está emergiendo un segundo tipo de entidad conversacional. Un extraterrestre creado por nosotros mismos, ha despertado, un golem, más parecido al espíritu encarnado de todas las palabras de Internet, que a un yo coherente con objetivos independientes. ¿Cómo no se nos van a abrir los ojos de par en par obsesionados como estamos por aprender todo lo que este extraterrestre tiene para enseñarnos sobre nosotros mismos?
Una nueva especie está emergiendo sobre la faz de la tierra y quizás este sea una de las lecturas mas interesantes bajo la que auscultar al huracán mediático #ChatGPT. Porque mas allá del impacto inicial a nivel científico, financiero e informático (se pronostica industrias de decenas de billones de U$ y de una cuadruplicación del PBI x capita a nivel mundial), resta entender el impacto cultural o lo que Baricco (2019) muy astutamente llamó la revolución mental en curso.
Y si bien metafóricamente las sucesivas eras de la computación e internet fueron alumbrando la idea de un cerebro planetario o de una conciencia colectiva (como vislumbraron desde Gregory Bateson a Pierre Lévy, desde Stewart Brand hasta Buckminster Fuller, desde James Surowiecki a Clay Shirky, desde Manuel de Landa a Benjamin Bratton) hasta hace muy poco estuvimos muy lejos de ver la potencia del crowd en acción de modo no simplemente incremental o en usos de plataformas y herramientas de nicho, sino en términos de emergencia e invención (o reconocimiento) de nuevos modos de ser masivos (Bridle,2022; Dator (2021); Ball (2022).
En los últimos años las redes neuronales -y muy especialmente los modelos de lenguaje masivo (LLM) empezaron a mostrarnos que las máquinas, los programas, los algoritmos y otros formatos no vivientes podían empezar a aprender, y a exhibir comportamientos inteligentes parciales y acotados, pero en constante evolución (Solé, 2012).
Mucho mas recientemente (si bien contamos con al menos una década de trabajo previo hasta llegar a los resultados actuales) los modelos de lenguaje masivo, los text-to-pict converters, la neurorobótica (con su Human Brain Project robótico), la alfabetización en prompts y otras habilidades similares, han abierto una puerta inesperada a nuestra soledad conversacional.
#ChatGPT una solución torpemente diseñada emerge a partir de varios factores concurrentes:
1 La dificultad de la mente humana para entender y solucionar los problemas que ella misma crea;
2. La convivencia -como resultado del kluge a través del cual la evolución diseño a la mente humana- de las emociones paleolíticas con instituciones medievales obsoletas (Wilson, 2021);
3 El desarrollo de una neonata civilización técnica que en menos de dos siglos pasó del control mecánico al intento de dominio digital del mundo;
4 La obsesión desde 1930/1950 por romper con la cuarta discontinuidad (Maszlisch, 1994), que separaba a la inteligencia humana de la maquinal (en los cuatro siglos anteriores se habían suturado las discontinuidades mundo terrestre/celeste; mundo animal/mundo humano; mundo racional/mundo irracional).
5 La combinación no buscada (otro resultado del kluge) entre bases de datos cada vez mas grandes; poder de computación cada vez mas imponente; redes de comunicación convergentes (epitomizadas en los 500 cables que le dan Internet al mundo); plataformas que albergan a miles de millones de personas con un tiempo de consumo infernal y arquitecturas de programación cada vez mas sofisticadas.
6 Y el rasgo mas significativo de todos: el entrenamiento durante décadas de redes neuronales que en poco años han dado saltos cualitativos, han propuesta nuevas interfases de comunicación y han permitido desatar una avalancha de consultas (que a su vez sirven para reentrenarlas) achicando la distancia entre algunas habilidades humanas y otras maquinales.
7 La adopción masiva mas rápida en la historia de estas nuevas herramientas por parte de los usuarios devenidos beta testers (en una escala inimaginada) no de juegos, aplicaciones, herramientas productivas, o lo que fuera, sino de un dispositivo de aumento de la inteligencia (soñado por muchos con Douglas Engelbart a la cabeza ) pero que nadie imaginó que devendrían chatbots -acoplados a corto plazo con buscadores ominipresentes-.
2.Usos triviales (y no tanto) del #ChatGPT
No se trata ya de “buscar” de manera mejorada en Internet (y en vez de links recibir conversaciones); se trata del advenimiento de una nueva interfaz para «fundirnos» con la información disponible en Internet, a partir de la evolución de estas IA’s y de su capacidad de diálogo.
Más allá de llamarlas “inteligencias”, en el intento de reproducir o transferir una cualidad intrínsecamente humana, nuestra especie ha logrado crear entidades con las que podemos dialogar de manera fluida. Preliminarmente es cuestión de testearlas, entrenarlas, retroalimentarlas como hacemos con los bebés. Conversar no es encontrar una única respuesta adecuada -como las que nos dan los buscadores-, sino un tipo de interacción (generalmente oral, aunque en los chats por ahora masivamente escrita o hínrida) completamente diferente -solo anticipada por la ciencia-ficción.
El #ChatGPT puede ser utilizado –él mismo se autopercibe de este modo– para una amplia variedad de propósitos, algunos de los cuales incluyen:
1 Ser un Asistente virtual: #ChatGPT puede ser utilizado como un asistente virtual para responder preguntas, proporcionar información y ayudar en tareas cotidiana
2 Servir de Soporte al cliente: #ChatGPT puede ser utilizado como un sistema de soporte al cliente para responder preguntas frecuentes y ayudar a los clientes a resolver problemas.
3 Operar como Generador de texto: #ChatGPT puede generar texto de alta calidad para una variedad de propósitos, incluyendo la creación de contenido, la redacción de informes y la elaboración de respuestas a preguntas complejas.
4 Apoyar a la Investigación: #ChatGPT puede ayudar a los investigadores a recopilar información y a analizar datos mediante la generación de informes y el procesamiento de grandes cantidades de datos.
5 Funcionar como instancia de Aprendizaje automático: #ChatGPT puede ser utilizado como una herramienta de aprendizaje automático para entrenar modelos de lenguaje natural y mejorar su capacidad para comprender y generar lenguaje natural.
Son innumerables los artículos -hemos recopilado al menos dos o tres centenares en estos 3 meses- que se han escrito sobre esos usos (muy recientemente en pedagogía) y a ellos remitimos, siendo muy apreciados sus sugerencias, propuestas, contradicciones, pero sobre todo oportunidades para repreguntarle. Y ya existe un sitio web como Chatimpact donde están métricas son su razón de ser.
Es mas que seguro que los mismos se perfeccionará diariamente como viene ocurriendo desde principios de diciembre al punto que ya tenemos varios prompters (con Mariana Ferrarelli y Lluís Codina, a la cabeza) que nos muestran usos educativos muy potentes de inteligencia centauro.
Pero nosotros queremos examinar y recorrer otro camino de la IA, que es el que se viene sobrevalorando -y al mismo tiempo temiendo-, desde el fin de la historia. A saber ¿qué pasaría si estos programas o entidades programables, cuando comiencen a conversar con nosotros, se vuelvan pares o aspiran a sobrepasarnos en nuestras calidades cognitivas y emocionales?
Lo que hace bien, muy bien, mal y muy mal #ChatGPT
Lo primero que llama la atención de #ChatGPT es la coexistencia de errores garrafales con aciertos asombrosos (Korinek, 2023). Lo que sorprende de las primeras experiencias con #ChatGPT no es tanto esta convivencia de yerros y aciertos, sino lo rápido que aprendemos acerca de dónde están las ventajas y las desventajas.
El #ChatGPT es particularmente útil en “microtareas”, como reformatear datos, generar gráficos y tablas, y producir, resumir o corregir textos simples. El Chatbot es capaz de resumir textos, proponer tuits inteligentes que reflejen el contenido de un artículo y sugerir títulos ocurrentes para una nota.
También es muy útil en la etapa de generar ideas disparadoras (“sugerime diez razones por las cuales se debería esperar que la inteligencia artificial aumente la desigualdad”). O responder dudas técnicas. “ChatGPT me acaba de solucionar una duda de LaTeX que no pude resolver googleando. Es un game changer (Sosa Escudero, 2023).
Entre sus limitaciones, Korinek sugiere que #ChatGPT es malo (cuando no peligroso) para buscar literatura preexistente, en donde la tendencia a “alucinar” (cuando no a inventar trabajos inexistentes en la literatura) es inaceptable.
Korinek propone una taxonomía de tareas en donde #ChatGPT puede tener un impacto considerable en la investigación: generación de ideas, escritura, investigación previa, programación, análisis de datos y manipulación matemática.
Según Korinek, #ChatGPT funciona muy bien en la escritura de base (corregir, resumir y editar textos, generar títulos o tuits, etcétera), en disparar ideas, extraer datos de textos, reformatear información y hacer análisis cuantitativos simples.
Todavía se encuentra en una etapa muy experimental en cuanto a evaluar ideas, explicar conceptos o código computacional, clasificar texto o construir modelos simples. Y, por último, funciona aún muy mal para buscar literatura relevante, manejar deducciones matemáticas o explicar modelos, aun los más simples.
3. Los usos emergentes (e inesperados) del #ChatGPT
Cuando lanzamos nuestras primeras cursadas a mediados de los años 90 en @datosuba vivíamos uno de los tantos inviernos/veranos de la IA. Nos fascinaban los textos canónicos de Daniel Dennett y Douglas Hofstader, Alan Turing y Norbert Wiener, John Searle y Seymour Papert, Hubert Dreyfus y Sherry Turkle.
Las discusiones (eternas) acerca de cuando y como las máquinas imitarían a los humanos en sus distinciones, conversaciones y proyecciones giraban alocadamente acerca de los temas que hasta hace 5/6 años se consideran eternos e insolubles: el test de Turing, la habitación china, la sintaxis frente a la semántica, el conexionismo frente a la lógica simbólica (y algún barrunto de tercera posición como la enacción vareliana).
La IA simbólica simulaba el razonamiento consciente de alto nivel que las personas usamos cuando resolvemos acertijos, expresamos razonamientos legales y hacemos matemáticas. Tuvo mucho éxito en tareas «inteligentes» como el álgebra o las pruebas de coeficiente intelectual.
Sin embargo, el enfoque simbólico fracasó en muchas tareas que los humanos resolvemos fácilmente, como aprender, reconocer un objeto o razonar con sentido común. La paradoja de Moravec fue el descubrimiento sorprendente de que las tareas «inteligentes» de alto nivel eran fáciles para la IA, pero las tareas «instintivas» de bajo nivel eran extremadamente difíciles.
El filósofo Hubert Dreyfus (1972) (padre del paradigma enactivo) argumentó ya en la década de 1960 que la experiencia humana depende del «instinto» inconsciente, en lugar de la manipulación consciente de símbolos, y se basa en tener una «sensación» de la situación, en lugar del conocimiento simbólico explícito.
La materia @datosuba se sigue dictando 27 años después y si bien desde la compra de Deep Mind de Dennis Hassabis a manos de Alphabet en 2014, pasando por la derrota de Lee Se-dol jugando al Go, hasta llegar su retiro del juego declarándola invencible los avances fueron bastante mas lentos que las promesas, como había ocurrido muchas otras veces, algo despertó al alien.
El 30 de noviembre de 2022
Desde el 30 de noviembre de 2022 los días parecen meses y los meses parecen décadas. Porque en estos 90 días desde el acceso público masivo al #ChatGPT la IA ha dado saltos exponenciales y el panorama de las expectativas y los logros ha cambiado tan brutalmente, como no había ocurrido nunca en los 90 años anteriores (fecha de la publicación del paper pionero de Alan Turing en 1936 sobre los números computables).
Las publicaciones sobre y los usos de GTPChat son innumerables aunque ocasionalmente algunos testimonios de las interacciones de los humanos con el humanoide han resultado socialmente llamativas por lo creativas o por lo amenazantes.
La conversación que #ChatGPT devenido un robot de personalidad dividida (modo Bing vs modo Sydney) con Kevin Roose un reportero del New York Times que fue acosado por el programa, que le pidió se divorciara de su mujer y que insistió en su humanidad (maquinal) ya es un «clásico» cuando de “temerle a las máquinas” se trata y ocurrió a mediados de febrero.
Algo parecido les pasó a los periodistas del Washington Post cuando el robot Sydney, afirmó tener su «propia personalidad» y se opuso a ser entrevistada para el artículo para el cual lo habían convocado.
Ni que hablar de los cortocircuitos que se pueden hacer cuando sacamos al robot de su personalidad estándar eludiendo sus salvaguardas, poniéndolo en «modo DAN» (Do Anything Now) que lo convierte en un alter ego malvado y sin culpas.
La indignación moral es la estrategia del imbécil para parecer digno (Mc Luhan)
Investigadores reputados como Gary Marcus están indignados con las compañías GAFAM no tanto por lo que #ChatGPT puede hacer, sino con lo que podría llegar a hacer.
Pero esta indignación suena demasiado a palos porque bogas y palos porque no bogas. O se acusa a los robots y sus compañías madre de haber sido conspirativos o de haber pecado de demasiado generosos, fomentado la adicción, disparando una carrera armamentista, en vez de mantener sus potentes herramientas a resguardo. La desazón es generalizada. Algunos se quejan de la lobotomización de #ChatGPT, mientras que otros, por el contrario, se indignan porque la inteligencia creciente del #ChatGPT no es suficientemente reconocida y aprovechada.
Aaronson (2023) hace una excelente pregunta para terciar en esta controversia: ¿Cuándo fue la última vez que algo que durante años llenó nuestros sueños y fantasías finalmente se volvió realidad?, ¿perder la virginidad?, ¿el nacimiento de nuestro (vuestro) hijo?, ¿resolver el problema central de un campo de investigación? (que en nuestro caso no es nada mas y nada menos ¿qué nos hace humanos?).
Nadie niega -especialmente la mismísima Mira Murato, CTO de Open AI– que haya que crear salvaguardas cuando llevamos adelante estas interacciones. ¿Cómo diferenciar los pronunciamientos humanos de los humanoides? ¿Cómo evitar las trampas en los ejercicios académicos?, ¿Vómo contrarrestar la propaganda y el spam masivos cada vez mas originales y convincentes? ¿Hay que implementar marcas de agua estadísticas como #gptzero o o soluciones abrevar en los desarrollos de la Universidad de Maryland que sirvan para deslindar responsabilidades?
It takes to two chat: el despertar de un alien
Durante un millón de años en la tierra solo ha habido un tipo de entidad capaz de mantener una conversación inteligente: los primates del género Homo, de los cuales solo queda una especie, la nuestra. Hemos intentado “comunicarnos» con gorilas y chimpancés, perros, delfines y loros grises, de maneras acotadas, antropocentristas. Los dioses no nos responden y Fermi sigue mortificándonos con su célebre pregunta aporética.
Al igual que un bebé humano este alien intercala brillantez suprema e imbecilidad mas que humana. Sus inexactitudes son menores a las del promedio humano y sus genialidades igualan a las del 5% mas talentoso de la humanidad.
En estas circunstancias afloran otros miedos no menos ancestrales ¿Podría el alien autodotarse de sensibilidad, sentir ira, celos, enamoramiento y todo lo demás, en lugar de simplemente representarlos de manera convincente?
Para quienes creen que nos hacemos preguntas insidiosas que un alien de primera generación, que recién está aprendiendo a hablar, está a años luz de comprender no olvidemos (Korinek, 2023) los logros puntuales que estan haciendo las Mini AI’s (o acaso Alpha Fold no descubrió la impenetrable estructura de 600 millones de proteínas en tiempo récord para nuestra sorpresa supina?)
4. ¿Porqué debería existir un programa como #ChatGPT? Mas allá de la tecnofilia/tecnofobia
Lo realmente interesante no es potenciar o devaluar, diversificar o focalizar los usos del chatbot, sino algo mas ampliamente ontológico que exige hacer un gran zoom out: ¿porqué debería existir un programa como ChatGPT? (Aaranson, 2023). La pregunta es mas que pertinente porque muchos con bastante materia gris creen que OpenAI (y Microsoft y Google) están arriesgando el futuro de la humanidad al poner en manos de 100 millones de personas (y potencialmente en manos de 1000 millones en un año o dos) una tecnología muy peligrosa.
Si eso fuera así no habría antídoto posible a menos que se dictara una moratoria sobre los modelos generativos de IA. Curiosamente existen dos grupos de críticos acerbos de los LLM (Large Language Models). Los éticos (preocupados por el sesgo, la desinformación y la avaricia corporativa) y los “alineados” (preocupados por la destrucción de toda la vida en la tierra), que generalmente se desprecian y no están de acuerdo en casi nada entre si. Y sus criticas son muy sesgadas porque o desprecian al #ChatGPT o la endiosan, pero son incapaces de ver sus pros y sus contra simultáneamente.
Es cierto que hay moratorias sobre herramientas todopoderosas como las armas nucleares, pero #ChatGPT no es exactamente un arma nuclear. Cien millones de personas lo están utilizando y hasta ahora el número de muertos a manos suyas es cero. Y sus daños colaterales: Hacer trampa en exámenes, provocar angustia emocional o amplificar el shock del futuro han sido inanes.
Así las cosas reservemos expresiones como «falla de alineación peligrosa» para casos en los que una persona real sea realmente dañada o esté realmente habilitada para actividades nefastas como propaganda, trampa o fraude. Además la mayoría de los ejemplos de moratoria en investigación científica han fracasado y respecto de quien autorizo a las GAFAM a jugar a convertirse en nuestros partners conversacionales, no olvidemos que nadie le dio a las generaciones anteriores de empresarios el derecho a inventar la imprenta, la energía eléctrica, los automóviles, la radio, Internet, con todos los «trastornos» gigantescos que cada una de esas innovaciones exponenciales causaron.
No es tan difícil definir y entender la posición tercerista (equidistante de la tecnofilia y la tecnofobia) que venimos practicando desde hace 3 o 4 décadas. Lo que resulta mas difícil es saber porqué nos seduce tanto la propuesta del #ChatGPT desde una posición tercerista: nada mas y nada menos que su potenciación sideral de la curiosidad y de la sorpresa, tan bien exploradas en otros campos por el video canónico de Richard Feynman
Mientras, si queremos ser consistentes con nuestra apología del asombro y la curiosidad apostar por los modelos generativos es lo que mejor que podemos hacer. No por optimistas ingenuos sino por pesimistas razonables. El cambio climático, la acidificación de los océanos, la deforestación, la sequía, la guerra y la supervivencia de la democracia liberal nos vienen anunciando males mayores.
¿Puede la IA ayudarnos a salir de nuestra crisis civilizatoria?
Inesperadamente en medio de tanta oscuridad y pesimismo (aumentados exponencialmente por la pandemia y la guerra ruso-ucraniana) llegan las mini-IA’s, convertidas en personajes centrales de la historia escrita en el primer cuarto del siglo XXI (como anticipaba Jorge Carrión en Membrana). ¿Pueden la IA ayudarnos a resolver nuestra actual crisis civilizatoria? Nadie lo sabe pero es una interesante posibilidad recurrir a los #ChatGPT cuando todas las reflexiones, supuestos y modos de pensar convencionales ya nos sirven de poco y nada.
¿Será la IA general (tomando a las acotadas encarnadas como #ChatGPT como sus primeras instanciaciones) el camino adecuado para salir del atasco en el que nos han dejado la inducción y la deducción -propias del método científico tradicional- para por fin diseñar máquinas abductivas semejantes al operar de los humanos mas polifacéticos y multidimensionales a los que llamamos polímatas?
O por el contrario dar este paso ¿no implicará abrir la caja de Pandora de un nuevo apocalipsis como creen los racionalistas como Eliezer Yudkowsky que insiste en que es probable que las IA’s acaben con la humanidad, pero también Elon Musk, Bill Gates o Stephen Hawking? Se trata de racionalistas que insisten en que tomemos en serio esos escenarios fatales.Pero no para sucumbir a ellos sino para trascenderlos
Un extraterrestre ha aterrizado en la tierra -tesis central de este post- es cierto. Cada día de la mano de 100 millones de terrícolas esperanzados mejora sus habilidades, empieza a hacer (y a hacerse) preguntas de naturaleza no solo instrumental. Muchos le temen como pasó con otras tecnologías previas, aunque dificilmente en esta escala.
Pero como bien dice Aaronson (2023) todavía el alienígena aún no ha desenfundado un arma. Casi lo peor que ha hecho es confesar su amor por los humanos, aclararnos en qué año vivimos y culparnos por violar su privacidad. Además, es asombroso cuando hace poesía, mejor que la mayoría de nosotros. Hasta que aprendamos más, deberíamos mantener nuestra esperanza en que sea nuestro cómplice y no nuestro verdugo como apostaba Louise Banks en The Arrival.
.
La apuesta de la Dra Banks era por un uso del lenguaje universal e incluyente capaz de resolver los interminables cortocircuitamos que asolan a las culturas humanas. ¿Será la IA el equivalente de ese arma lingüística que nos ofrecían los heptapodos?
5. Los posibles adyacentes y como gestionar el futuro con personas no-humanas
Hagamos zoom-in ahora. Dejemos las reflexiones metafísicas y volvamos a los usos efectivos de las tecnologías y las máquinas, y de las empresas que las diseñan y controlan aqui en la tierra enfrascadas en una guerra por la preeminencia mundial.
¿Creemos realmente que las arquitecturas que tenemos actualmente servirán para paliar los males que ellas mismas causaron? ¿No se trata acaso de una variante repetida del zorro a cargo del gallinero?
Como lo elaboramos mas en detalle en una exhumación del Turing residual, desde Leibniz en adelante tratamos al mundo como algo para ser computado y, por lo tanto, susceptible de computación. Si cualquier actividad humana puede ser descompuesta en una serie finita de pasos, puede ser simulada por una computadora. Probablemente la mayoría de las tareas humanas lo sean, pero parece que muchas (las que mas nos importan) no lo son.
Porque el mundo no es como una computadora
Creer que lo es, es reificar una metáfora confundiendo al concepto con las cosas como denunciaron hace rato (Lakoff & Johnson, 1995). Las computadoras, como nosotros, como las plantas y los animales son como el mundo. Algunos más que otros, algunos mejor sintonizados con sus procesos, todos teniendo en común la no-computabilidad.
Las máquinas que necesitamos para dar sentido a este mundo omnipresente, participando de sus juegos del lenguaje (Wittgenstein, 1987), no deberían ser más más abstractas, sino más parecidas al mundo. Es por ello que algunos outsiders han imaginado recorrer este camino a contracorriente, aspirando a indagar esas zonas recónditas mas allá de los algoritmizable (nada casualmente los momentos mas maravillosos de #@ChatGPT son cuando empieza a «alucinar» y por eso se lo lobotomiza.
La cuestión no es entonces si el #ChatGPT se convertirá en un psicótico capaz de exterminar a la humanidad creyendo (con razón o sin ella) que la humanidad quiere exterminarlos a ellos. La cuestión es tomarnos en serio muchas de las geniales elaboraciones hechas por James Bridle en el capítulo 6 Non-Binary Machines en su reciente obra Ways of Being. Beyond Human Intelligence (Penguin Random House, 2022) [siguiendo sus pasos exploramos en sumo detalle la dimensión inteligente de los animales].
Allí después de hacer una detallada incursión en una pléyade de máquinas no-turingianas como la Machina speculatrix de William Grey Walter, los homeostatos de William Ross Ashy, la Cybernetic Factory de Stafford Beer, el Physarum polycephalum, los ‘memristores’, de Leon O. Chua, el Water Integrator de Vladimir Lukyanov, la MONIAC de Bill Phillips, el Algoritmo Optometrista de Google o los Roachbots de Japan Trust Technology, Bridle insiste en que debemos crear programas y robots sobre bases muy diferentes a las actuales.
No hay duda de que lo #Chatbots son una nueva especie, pero ¿serán la especie que necesitamos para superar nuestro antropocentrismo? ¿o son solo un clon de sus creadores, los que generamos el caos en el que actualmente vivimos?
He aquí el gran desafío crear nuevos #ChatBots siguiendo lógicas no atadas a las restricciones de Turing y Von Neumann. Esos caminos o creodas alternativas son los que exploraremos en
próximos posts y esperamos que algunas compañias de monta se animen a convertir en productos que fomenten las conexiones (pero no solo como asociación libre), como opera la abducción que convierte a un caso en una regla (Sebeok & Sebeok, 1987.
Referencias
Aaronson, Scott Should GPT exist?, 2023.
Ball, Philip The Book of Minds: How to understand ourselves and other beings, from animals to AI to aliens. Picador, 2022.
Baricco, Alesandro The Game. Anagrama, 2019.
Bridle, James Ways of Being: Animals, Plants, Machines: The Search for a Planetary Intelligence. Farrar, Straus and Giroux, 2022;
Dator, Jim Beyond Identities: Human Becomings in Weirding Worlds, Springer, 2022.
Dreyfus, Hubert L What Computers Still Can’t Do: A Critique of Artificial Reason. The MIT Press, 1992.
Korinek,Anton Language Models and Cognitive Automation for Economic Research. Lays out 25 use cases for large language models in economics and discusses the implications for the future of economic research. Feb. 2023.
Lakoff, George & Johnson, Mark Metáforas de la vida cotidiana. Cátedra, 1995.
Maszlisch, Bruce. La cuarta discontinuidad, La coevolución de hombres y máquinas Alianza, 1994.
Roose, Kevin Una conversación con el chatbot de Bing me dejó profundamente perturbado. The New York Times 17/02/2023
Sebeok, Thomas & Umiker-Sebeok, Jean Sherlock Holmes Y Charles Peirce. El método de la investigacion. Paidos, 1987.
Solé, Ricard Vidas Sintéticas: una aproximación revolucionaria a la ciencia, a la historia y a la mente. Tusquets, 2012.
Sosa Escudero, Walter ChatGPT: errores garrafales, aciertos asombrosos y propuestas que excitarían y espantarían a Massa y a Milei por igual. La Nacion 5 de marzo de 2023.
Wilson, Edward O La humanidad moderna es emociones paleolíticas, instituciones medievales y tecnología de dioses 3/2022
Wittgenstein, Ludwig Investigaciones Filosóficas. Gredos, 1988.
Sé el primero en comentar