Hace poco me encontré con un ensayo de douglas hofstadter eso me hizo feliz
Hofstadter es un eminente científico cognitivo y autor de libros como «Gödel, Escher, Bach» y «I Am a Strange Loop».
El ensayo que me hizo tan feliz, titulado «La superficialidad del Traductor de Google«, (La superficialidad del Traductor de Google) Sé publicado en The Atlantic en enero de 2018.
En aquel entonces, Hofstadter argumentaba que las herramientas de traducción de IA podrían ser realmente buenas en algunos tareas peatonalespero no estaban cerca de replicar las habilidades creativas y sutiles de un traductor humano.
« Se trata de un procesamiento ultrarrápido de fragmentos de texto, sin pensar, imaginar, recordar o comprender. Ni siquiera sabe que las palabras significan cosas», escribió.
El artículo me alegró porque un científico al que admiraba mucho defendía un punto de vista al que yo mismo había llegado.
en los últimos meses, me convertí en un Limitista de la IA.
es Quiero decir, creo que si bien la IA será una herramienta increíble para, por ejemplo, enseñar a niños de todo el mundo o resumir reuniones, no es rival para la inteligencia humana.
No tiene comprensión, autoconciencia, conceptos, emociones, deseos, cuerpo o biología.
ÉL es malo en el pensamiento causal.
No posee el conocimiento tácito y no verbal que los humanos dan por sentado.
No es sensato
hace muchas cosas mucho más rápido que nosotros, pero carece de la profundidad de una mente humana.
Me parece una buena noticia.
Sí La IA está limitada en estos aspectos, la revolución de la IA será similar a las muchas otras revoluciones de la información que han producido los humanos.
Este La tecnología se reforzará de muchas maneras excelentes, y algunas terribles, pero no nos reemplazará, no causará la gran disrupción social que anuncian los hipters, y no despertará un día queriendo dominar el mundo. .
El ensayo de Hofstadter de 2018 sugirió que él también es un limitacionista y reforzó mi sentimiento de que este punto de vista es correcto.
Así que me sorprendió este mes ver el siguiente titular en uno de los boletines de AI a los que me suscribo:
«Douglas Hofstadter cambiar de opinión sobre el aprendizaje profundo y el riesgo de la IA».
Seguí el enlace a un podcast y escuché a Hofstadter decir:
«Es una experiencia muy traumática cuando algunas de tus creencias más básicas sobre el mundo empiezan a colapsar. Y especialmente cuando crees que los seres humanos pronto serán eclipsados«.
Aparentemente, en los cinco años transcurridos desde 2018, ChatGPT y sus compañeros han alterado radicalmente el pensamiento de Hofstadter.
y sigue adelante:
«Simplemente hace que la humanidad sea un fenómeno muy pequeño en comparación con otra cosa que es mucho más inteligente y que se volverá incomprensible para nosotros, tan incomprensible para nosotros como lo somos para las cucarachas».
llamé a Hofstadter para preguntar qué estaba pasando.
compartido su genuina alarma sobre el futuro de la humanidad.
Él dijo que ChatGPT estaba «saltando a través de aros que nunca hubiera imaginado que podría. Me está asustando muchísimo».
y Y agregó: «Casi todos los días estoy nervioso. Tengo suerte si puedo distraerme con algo: leer, escribir, dibujar o hablar con amigos. Pero me cuesta encontrar la paz».
Hofstadter ha argumentado durante mucho tiempo que la inteligencia es la capacidad de observar una situación compleja y encontrar su esencia.
« Pon tu dedo en el esencia de una situación significa ignorar gran parte de la situación y resumir de manera concisa la esencia», dijo.
Los humanos lo hacen principalmente por analogía.
Sí Me dices que no has leído mi columna, y te digo que no me importa porque no quería que la leyeras de todos modos, vas a pensar:
«Ese tipo es muy amargado».
tienes esta categoría en su cabeza, «uvas amargas o agrias».
eres comparando mi comportamiento con todos los demás comportamientos que ha presenciado.
Estoy de acuerdo con la categoría de uva agrícola.
tienes derivado de una esencia para explicar mi estado emocional.
Hace dos años, dice Hofstadter, la IA no podía hacer este tipo de pensamiento de manera confiable.
pero ahora estás haciendo este tipo de pensamiento todo el tiempo.
y Si puede realizar estas tareas de manera que tengan sentido, dice Hofstadter, ¿cómo podemos decir que carece de comprensión o que no está pensando?
Y si la IA puede hacer todo este tipo de pensamiento, concluye Hofstadter, entonces está desarrollando el conciencia.
Hofstadter sostiene desde hace mucho tiempo que la conciencia es gradual y que si hay pensamiento, hay conciencia.
uno una abeja tiene un nivel de conciencia, un perro un nivel más alto, un bebé un nivel más alto y un adulto un nivel aún más alto.
“Nos estamos acercando a la etapa en la que será difícil para nosotros decir que esta máquina está totalmente inconsciente.
Vamos a tener que darle cierto grado de conciencia, cierto grado de vivacidad”, dice.
Normalmente, cuando los ejecutivos de tecnología me dicen que la IA pronto alcanzará la inteligencia general a nivel humano, pienso en silencio:
«Esta persona puede saber sobre tecnología, pero en realidad no conoce la inteligencia humana. No entiende cuán compleja, cuán vasta y cuán profunda es realmente la mente humana».
Pero Hofstadter entiende la mente humana mejor que nadie.
es un humanista hasta la médula, reverente del misterio de la conciencia humana, que ha escrito conmovedoramente sobre el amor y la fusión profunda de las almas.
Así que tus palabras tienen peso.
me sacudieron .
Pero hasta ahora no me ha convencido en absoluto.
Todavía veo estas cosas como herramientas inanimadas.
en En nuestra llamada, probablemente traté de refutar a Hofstadter argumentando que los robots en realidad no piensan, sino que se basan en el pensamiento humano.
de Desde que somos bebés, los seres humanos comenzamos a construir modelos del mundo, y estos modelos se basan en experiencias duras y alegres, en pérdidas y alegrías emocionales, en triunfos y fracasos morales, en el desorden de la vida humana.
genial Parte de la sabiduría resultante se almacena en lo profundo del inconsciente recuperado de nuestras mentes, pero parte se convierte en lenguaje.
La IA es capaz de sintetizar estas expresiones lingüísticas, que los humanos han puesto en Internet y por tanto en su base de entrenamiento.
pero Sigo discutiendo, la máquina no tiene nada parecido a un experiencia de aprendizaje humano.
en En la superficie, juega con el lenguaje, pero el proceso de aprendizaje empapado de emociones de la experiencia real y la acumulación de lo que llamamos sabiduría, ganada con tanto esfuerzo, están ausentes.
En un artículo publicado en El neoyorquinoel científico de la computación jaron lanier afirma que la IA es «una forma innovadora de colaboración social».
mezclar las expresiones lingüísticas de la mente humana de una manera suficientemente estructurada para ser útil, pero no es, argumenta Lanier, «la invención de una nueva mente».
Creo que sigo creyendo en esta visión limitacionista.
Pero te confieso que me lo creo mucho menos fervor que la semana pasada.
Hofstadter pregunta:
Si la IA resuelve de manera convincente los problemas intelectuales, ¿quién eres tú para decir que no piensa?
Tal vez sea algo más que una mezcla de expresiones humanas.
tal vez sintetizar el pensamiento humano de una manera realmente creativa, produciendo nuevas categorías y nuevos pensamientos.
semejante Quizás el tipo de pensamiento de una máquina encarnada que se encuentra con el mundo principalmente a través del lenguaje es radicalmente diferente del tipo de pensamiento de una mente humana encarnada, contenida en una persona que se mueve en el mundo real, pero es una inteligencia de algún tipo, que opera de alguna manera mucho más rápido y superior al nuestro.
además Estos cerebros artificiales, señala Hofstadter, no están limitados por los factores que limitan los cerebros humanos, como tener que caber dentro de un cráneo.
y él enfatiza, están mejorando a un ritmo asombroso, mientras que la inteligencia humana no lo está.
Es difícil rechazar este argumento.
No se a ustedes, pero a mi me pasa lo mismo desde que salio ChatGPT 3.
Me encuentro rodeado de una incertidumbre radical.
Incertidumbre no sólo sobre hacia dónde va la humanidad, sino sobre qué es ser humano.
entonces Tan pronto como empiezo a pensar que estoy empezando a entender lo que está pasando, sucede algo sorprendente: las máquinas realizan una nueva tarea, una figura de autoridad cambia de opinión.
Acosado por desconocidos, me pongo a la defensiva y me afirmo.
I Me encuentro aferrado a lo más profundo de mi ser, el vasto y casi siempre oculto reino de la mente de donde surgen las emociones, de donde fluye la inspiración, de donde palpitan nuestros deseos, la parte subjetiva del espíritu humano que hace que cada uno de nosotros de nosotros seamos ineludiblemente quienes somos.
Quiero Construye un muro alrededor de esta región sagrada y di:
«Esta es la esencia del ser humano. Nunca puede ser replicada por una máquina».
Pero entonces un tecnólogo susurra:
«No, son solo redes neuronales hasta el final. No hay nada especial allí. No hay nada en ti que no pueda ser superado».
Algunos de los tecnólogos suenan extrañamente optimistas cuando hablan así.
Al menos Hofstadter es lo suficientemente humanista como para horrorizarse.
c.2023 The New York Times Company