Jorge Leiva Cabanillas. Chile<\/p>\n\n\n\n
<\/p>\n\n\n\n
Resumen<\/strong><\/p>\n\n\n\n En el presente trabajo se plantean algunas consideraciones en torno a la inteligencia artificial, para lo cual se distinguen dos momentos o revoluciones en la historia del desarrollo de las ciencias cognitivas desde la cibern\u00e9tica, situando el origen de la IA en el espacio de la primera revoluci\u00f3n cognitiva. El prop\u00f3sito es mostrar que su desarrollo es el de una tecnolog\u00eda de la inform\u00e1tica y no un desarrollo cient\u00edfico de la b\u00fasqueda de un procedimiento para adquirir conocimientos. Para ello se plantea la diferencia entre informaci\u00f3n y conocimiento, situando a la primera m\u00e1s cerca del primer momento del desarrollo de las ciencias cognitivas y, el segundo, dentro del espacio de la segunda revoluci\u00f3n de estas ciencias.<\/p>\n\n\n\n Palabras claves<\/em>: Ciencias cognitivas, cibern\u00e9tica, informaci\u00f3n, conocimiento<\/p>\n\n\n\n Dos declaraciones sobre la inteligencia artificial en mi pa\u00eds me han llamado la atenci\u00f3n. La primera del ex presidente Lagos que afirma en un art\u00edculo de prensa lo que significa que la IA cree \u201crealidades\u201d no \u201creales\u201d. Sostiene que ella \u201cva a presentar retos que no tienen precedentes\u201d. Y analizando su aporte en la medicina agrega, \u201cpero esa misma tecnolog\u00eda va a producir mecanismos para protegernos\u2026Entonces estamos ante el reto de manejar la dualidad de la nueva realidad que nos llega\u201d.<\/p>\n\n\n\n La segunda declaraci\u00f3n es del actual Presidente Boric en su intervenci\u00f3n en Naciones Unidas, afirmando que \u201cCada gran transformaci\u00f3n ha sido en la historia de la humanidad una gran oportunidad para construir sociedades m\u00e1s justas, pero tambi\u00e9n si lo hacemos mal, puede ser fuente de nuevas injusticias\u201d<\/p>\n\n\n\n A ambas declaraciones advierten que la llegada de este poderoso avance de la inform\u00e1tica como t\u00e9cnica cibern\u00e9tica trae consigo una riesgosa ambig\u00fcedad. \u00bfCu\u00e1l es la fuente de \u00e9sta?<\/p>\n\n\n\n Pienso que el origen de este riesgo que est\u00e1 poniendo en juego la IA es una doble confusi\u00f3n, por una parte del concepto mismo de inteligencia y, por otra, la diferencia de los procesos de informaci\u00f3n y los procesos de adquisici\u00f3n de conocimientos. Estos temas forman parte de la historia de las hoy llamadas ciencias cognitivas. Por ello la comprensi\u00f3n de la IA solo encontraran respuesta remiti\u00e9ndonos a su historia.<\/p>\n\n\n\n Esta historia muestra en su fase moderna una mutaci\u00f3n notable en la comprensi\u00f3n del desarrollo del concepto de mente y su relaci\u00f3n con la naturaleza. El bi\u00f3logo biocibern\u00e9tico F. Varela se\u00f1ala que es solo a la mitad del siglo pasado que la ciencia reconoce la legitimidad de las investigaciones sobre el conocimiento mismo Sostiene este cient\u00edfico que es como resultado de esta mutaci\u00f3n que el conocimiento se ha ligado a las tecnolog\u00edas que como la inteligencia artificial provocan cambios en las pr\u00e1cticas sociales.<\/p>\n\n\n\n Es a partir de este proceso que la sociedad occidental enfrenta interrogantes como \u00bfEs la mente una manipulaci\u00f3n de s\u00edmbolos? \u00bfPuede una m\u00e1quina comprender el lenguaje? Esto deja en evidencia que esas interrogantes afectan la vida de las personas y no son meros temas te\u00f3ricos y explican porque han penetrado profundamente en la mente de las generaciones nuevas a trav\u00e9s de los juegos de computaci\u00f3n y de ciencia ficci\u00f3n.<\/p>\n\n\n\n Para la comprensi\u00f3n de los alcances de la tecnolog\u00eda expresada en la IA, es necesario conocer su recorrido hist\u00f3rico. Este recorrido nos muestra que en la intersecci\u00f3n de la neurobiolog\u00eda y la psicolog\u00eda m\u00e1s la inform\u00e1tica se construye un enfoque unificado de los fen\u00f3menos de la percepci\u00f3n, el conocimiento y la comprensi\u00f3n. Surge un nuevo continente de conocimientos: el de las ciencias cognitivas en el que es necesario profundizar.<\/p>\n\n\n\n Esta naciente disciplina agrupa fen\u00f3menos como el funcionamiento de la mente humana, as\u00ed como la explicaci\u00f3n de la conducta animal y el desempe\u00f1o de los ordenadores y los somete a estudios enfocados en una perspectiva com\u00fan. Este cambio en la ciencia fue introducida por las ciencias cognitivas que en su temprano desarrollo llamo a estas investigaciones programa cognitivista. Seg\u00fan \u00e9ste, y aqu\u00ed parte la confusi\u00f3n, el conocimiento y los procesos de c\u00f3mo se adquiere fueron ligados a una tecnolog\u00eda que transforma las pr\u00e1cticas sociales que lo hacen posible: la inteligencia artificial es lo m\u00e1s visible de este proceso.<\/p>\n\n\n\n Este proceso de las ciencias cognitivas, fue el resultado de un intenso di\u00e1logo entre cient\u00edficos de muy diversa formaci\u00f3n. Se trato de un esfuerzo interdisciplinario sin precedentes. Estos esfuerzos aparecen de manera visible en torno al desarrollo de una nueva disciplina cient\u00edfica y t\u00e9cnica: la cibern\u00e9tica.<\/p>\n\n\n\n Las ciencias cognitivas siguen el curso de ese desarrollo y en torno a la cibern\u00e9tica presentan dos momentos: una primera revoluci\u00f3n cognitiva ligada a la cibern\u00e9tica de primer orden, que opera sobre sistemas abiertos, y, un segundo momento, que da forma a una segunda revoluci\u00f3n cognitiva ligada a la cibern\u00e9tica de segundo orden que act\u00faa sobre sistemas que operan con clausura operacional.<\/p>\n\n\n\n Me detendr\u00e9 en este punto porque es crucial para entender los verdaderos alcances de la tecnolog\u00eda inform\u00e1tica de la inteligencia artificial, despejar dudas y resolver ambig\u00fcedades sobre su aporte. Asimismo disolver mitos como la creencia de que ella reemplazara y superar\u00e1 a la inteligencia humana.<\/p>\n\n\n\n Algo de historia de la revoluci\u00f3n cognitiva ligada a la cibern\u00e9tica. Un primer momento<\/strong><\/p>\n\n\n\n Veremos los dos momentos de la revoluci\u00f3n cognitiva ligada a dos momentos de la cibern\u00e9tica . Partiremos por el primero. En 1878 Claude Barnard observa analog\u00edas entre el proceso de regulaci\u00f3n de maquinas de vapor y el de los organismo vivos frente a cambios externos o internos que podr\u00edan perturbar el metabolismo. En 1932, m\u00e1s de 50 a\u00f1os despu\u00e9s Walter Cannon dar\u00e1 el nombre de \u201chomeostasis\u201d a esta tendencia de los organismos vivos a mantener el equilibrio interno.<\/p>\n\n\n\n El matem\u00e1tico y fil\u00f3sofo norteamericano Norbert Wiener durante la segunda guerra mundial en 1939, junto al ingeniero Juli\u00e1n Bigelow, ha pedido de las fuerzas armadas de su pa\u00eds, trabajan en la construcci\u00f3n de aparatos que reduzcan el error de tiro en los combates a\u00e9reos a prop\u00f3sito del aumento de la velocidad en los nuevos dise\u00f1os aeron\u00e1uticos. Ambos llegan a la conclusi\u00f3n de que un factor muy importante de la actividad voluntaria es lo que los ingenieros de control llaman feed-back<\/p>\n\n\n\n Desde otro campo de la ciencia Arturo Rosemblueth, m\u00e9dico mexicano, delineo los conceptos b\u00e1sicos que equiparan el comportamiento del sistema nervioso con las maquinas. Como resultado de sus investigaciones reporta que algunos pacientes afectados de ciertas lesiones o malformaciones del sistema nervioso tienen comportamientos an\u00e1logos a los de las m\u00e1quinas descrita por Wiener<\/p>\n\n\n\n Siguiendo esa l\u00ednea de investigaci\u00f3n en 1942, y situados dentro del mismo marco la Fundaci\u00f3n Macy organiza su primera conferencia sobre el tema de la \u201cinhibici\u00f3n cerebral\u201d ligada a las investigaciones de Rosemblueth.<\/p>\n\n\n\n En 1943 el diario \u201cPhilosophy of Science\u201d publica un art\u00edculo de este encuentro: \u201cBehavior, purpose and teleology\u201d escrito por Wiener, Rosenblueth y Bigdelow que establece un nuevo camino cient\u00edfico. Proponen un enfoque compartamental de los fen\u00f3menos y reconsideran la cuesti\u00f3n de la teleolog\u00eda.<\/p>\n\n\n\n Este enfoque compartamental no intenta analizar la organizaci\u00f3n interna de las entidades que estudia, su estructura o sus propiedades, sino que se propone examinar solo el comportamiento observable, las relaciones, los outputs en relaci\u00f3n a los inputs, sin especular sobre las caracter\u00edsticas internas de la entidad a la que considera una \u201ccaja negra\u201d Estos cient\u00edficos plantean un punto de vista com\u00fan afirmando que el concepto de \u201cfeedback\u201d es la clave de la explicaci\u00f3n de todo comportamiento intencional.<\/p>\n\n\n\n En 1946 la Fundaci\u00f3n Macy se encarga de retomar los encuentros que se vieron interrumpidos por la segunda guerra, los que finalmente desembocan en una ciencia del control: la cibern\u00e9tica El primer encuentro recibi\u00f3 el t\u00edtulo de \u201cMecanismos teleol\u00f3gicos y sistemas causales circulares\u201d. Como resultado de estos encuentros en 1948 Wiener publica su obra \u201cCibernetics\u201d. En ella sintetiza las investigaciones y resultados de las primeras conferencias Macy.<\/p>\n\n\n\n A partir de ese momento, la palabra \u201ccibern\u00e9tica\u201d se impone a todos como un s\u00edmbolo de sus investigaciones comunes y los participantes deciden adoptar este nombre para las siguientes tres conferencias Macy. Este grupo de cient\u00edficos compart\u00edan la impresi\u00f3n de participar en acontecimiento hist\u00f3rico: la creaci\u00f3n de un \u201cnuevo marco de referencia conceptual para la investigaci\u00f3n cient\u00edfica de las ciencias de la vida\u201d.<\/p>\n\n\n\n La intenci\u00f3n manifiesta del movimiento cibern\u00e9tico consist\u00eda en crear una ciencia de la mente, dando paso a una siguiente etapa: la hip\u00f3tesis cognitivista que configura un segundo momento en el desarrollo hist\u00f3rico de las ciencias del conocimiento.<\/p>\n\n\n\n La intuici\u00f3n central del cognitivismo es que la inteligencia, la humana incluida, semeja tanto a la inform\u00e1tica que la cognici\u00f3n se puede definir como computaciones de representaciones simb\u00f3licas. El argumento cognitivista es que la conducta inteligente supone la capacidad para representar el mundo de cierta manera. Esta intuici\u00f3n muestra que desde el punto de vista de la dimensi\u00f3n ontol\u00f3gica de los paradigmas, esta fase del desarrollo de estas ciencias supone la existencia de un mundo independiente del observador.<\/p>\n\n\n\n Es en este camino explicativo y en esta fase del desarrollo de las ciencias del conocimiento en el que se desarrolla el proyecto de una inteligencia artificial. Como lo reconoce el bi\u00f3logo celular Francisco Varela . \u201cla fase cibern\u00e9tica de las ciencias cognitivas (1940-1956) produjo una asombrosa variedad de resultados concretos, adem\u00e1s de una influencia duradera. Se\u00f1ala alguno resultados de esta fase: La invenci\u00f3n de maquinas de procesamiento de la informaci\u00f3n, base de la inteligencia artificial; el uso de la l\u00f3gica matem\u00e1tica para comprender el funcionamiento del sistema nervioso; el establecimiento de la metadisciplina de la teor\u00eda de sistemas, que ha dejado una impronta en muchas ramas de la ciencia, como la ingeniera, la biolog\u00eda, las ciencias sociales y en disciplinas como en la econom\u00eda con la teor\u00eda de los juegos y en la administraci\u00f3n empresarial.<\/p>\n\n\n\n La respuesta a la advertencia que hacen los pol\u00edticos citados al comienzo de esa articulo se encuentra en la no comprensi\u00f3n de que la llegada de este poderoso avance de la inform\u00e1tica como t\u00e9cnica cibern\u00e9tica trae consigo una riesgosa ambig\u00fcedad cuya fuente es que ella es el resultado de la primera revoluci\u00f3n de las ciencias cognitivas.<\/p>\n\n\n\n Antes de pasar a explicar en qu\u00e9 consiste la segunda revoluci\u00f3n de las ciencias cognitivas, para evitar la ambig\u00fcedad en que suele entenderse la inteligencia artificial, es necesario profundizar un poco en que significa que lo relevante en \u00e9sta sea el concepto de informaci\u00f3n.<\/p>\n\n\n\n En uno de sus \u00faltimos escritos sobre la crisis de la narraci\u00f3n en el mundo postindustrial, el filosofo Byung-Chul Han , afirma que \u201cla informaci\u00f3n carece de firmeza ontol\u00f3gica\u201d Citando al soci\u00f3logo Niklas Luhmann sostiene que la cosmolog\u00eda de a la informaci\u00f3n \u201cno es la del ser, sino la de la contingencia\u201d Seg\u00fan este autor la informaci\u00f3n es aditiva y acumulativa y, por lo tanto, no transmite sentido. El paso siguiente es la necesidad de adoptar una posici\u00f3n epistemol\u00f3gica. Epistemol\u00f3gicamente, el sujeto del informaci\u00f3n opera como un sistema abierto que se concibe articulando procesos de entradas y salidas. El sujeto del conocimiento, en cambio, es un sujeto que asume la clausura operacional de su sistema para acceder a un mundo independiente de su experiencia, impidi\u00e9ndole una relaci\u00f3n de instrucci\u00f3n con el medio oblig\u00e1ndolo a construir sus propios significados.<\/p>\n\n\n\n Este es un punto de inflexi\u00f3n en que nos coloca la inteligencia artificial. \u00bfBuscamos informaci\u00f3n o buscamos conocimiento? En lo primero es una poderosa herramienta t\u00e9cnica, en lo segundo puede ser una perturbadora intervenci\u00f3n en nuestra b\u00fasqueda. Lo que hay que reconocer es que transitamos permanentemente por ambos caminos.<\/p>\n\n\n\n Quiero llamar la atenci\u00f3n de que esta distinci\u00f3n es de capital importancia en la ciencia social, por ejemplo cuando ejercemos una pr\u00e1ctica pedag\u00f3gica. El riesgo que se\u00f1alamos con la inteligencia artificial es que imperceptiblemente puede eliminar en la pr\u00e1ctica estos dos aspectos del desarrollo del pensamiento cient\u00edfico, y ello porque \u00e9ste supone dos concepciones distintas del sujeto de aprendizaje. Es diferente hacer pedagog\u00eda bajo el supuesto que el sujeto cognoscente aprende como un procesador de informaci\u00f3n, que suponer y reconocer que son sus experiencias, desde donde aprende. Esto implica que son nuestros \u201ccaptas\u201d, nuestra forma de percibir el mundo la fuente de nuestro conocimiento y que ellas no son\u201dbits de informaci\u00f3n\u201d o datos que procesamos. La IA no es m\u00e1s que una elaborada t\u00e9cnica de acumulaci\u00f3n, coordinaci\u00f3n y procesamiento de datos. En este sentido puede ayudar y aumentar el rendimiento del cerebro humano en esta parte del proceso de conocimiento, pero no puede realizar el resto de operaciones que \u00e9ste desarrolla para generar conocimientos.<\/p>\n\n\n\n Ronald Laing, citado por Spencer Brown , afirma que para ser honestos \u201caquello que la ciencia emp\u00edrica denomina <datos>, deber\u00edan llamarlos captas\u2026ya que son seleccionados arbitrariamente por la \u00edndole de la hip\u00f3tesis ya formadas\u2026\u201d Alude a \u201cData\u201d como lo que es dado y a \u201cCapta\u201d , lo que es captado.<\/p>\n\n\n\n Desde el campo de la biolog\u00eda biocibern\u00e9tica Francisco Varela cuestiona la difundida idea del concepto de informaci\u00f3n para explicar la estructura del conocimiento, sosteniendo que, \u201cno se requiere apoyarse en un orden de cosas preexistentes\u201d, ya que el pivote de \u00e9ste es precisamente \u201csu capacidad para explicar la significaci\u00f3n y las regularidad. As\u00ed la informaci\u00f3n no debe aparecer como un orden intr\u00ednseco sino como un orden emergente y derivado de las actividades cognitivas mismas.<\/p>\n\n\n\n Esta perspectiva de los bi\u00f3logos biocibern\u00e9ticos se sit\u00faa en los inicios de un cambio paradigm\u00e1tico que abre el surgimiento de una segunda revoluci\u00f3n de las ciencias cognitivas. La inteligencia artificial no es parte de este proceso, ya que \u00e9ste constituye una tercera etapa del desarrollo de las ciencias cognitivas, (1958) que se presenta justamente como alternativa la orientaci\u00f3n simb\u00f3lica que subyace a la IA. Seg\u00fan estos bi\u00f3logos este nuevo enfoque pone el foco en la emergencia y la autoorganizaci\u00f3n, esto es, en el conexionismo, la asociaci\u00f3n y la din\u00e1mica de red.<\/p>\n\n\n\n A este respecto Varela sostiene que \u201cla tesis que quisiera plantear en este trabajo es la siguiente: existen clara indicaciones de que del conjunto de ciencias que tratan del conocimiento y de la cognici\u00f3n \u2013las ciencias cognitivas- lentamente han ido cobrando conciencia de que las cosas han sido planteadas al rev\u00e9s, y han comenzado un radical viraje paradigm\u00e1tico o epist\u00e9mico. El n\u00facleo de esta visi\u00f3n emergente es la convicci\u00f3n de que las verdaderas unidades de conocimiento son de naturaleza eminentemente concreta, encarnada, incorporada, vivida \u201c <\/p>\n\n\n\n Algo de historia de la revoluci\u00f3n cognitiva ligada a la cibern\u00e9tica. Un segundo momento<\/strong><\/p>\n\n\n\n El surgimiento de este nuevo enfoque que pone el foco en la emergencia y la autoorganizaci\u00f3n de los procesos de conocimiento, dando nacimiento a un segundo momento en el desarrollo de las ciencias cognitivas, encuentra sus primeros or\u00edgenes en las investigaciones que realiza el bi\u00f3logo norteamericano Roger Sperry en 1943. Este bi\u00f3logo realiz\u00f3 un experimento crucial con una salamandra, buscando explicar el funcionamiento diferente de nuestros dos hemisferios cerebrales. Estas investigaciones lo llevaron a recibir el Premio Nobel en 1981. Usando la plasticidad org\u00e1nica de este urodelo Sperry gira en 180\u00b0 uno de los ojos y observa que una vez girado y vuelto a funcionar en su cavidad ocular, la salamandra no corrige la certera punter\u00eda con que captura su alimento compuesto de insectos. Lo que el experimento muestra, es que la pregunta sobre si corrige la punter\u00eda es ciega al hecho que el acto de captura de insectos no es un acto de apuntar a ese objet\u00f3, sino que es hacer una correlaci\u00f3n interna. <\/p>\n\n\n\n Diez y siete a\u00f1os m\u00e1s tarde cient\u00edficos de Laboratorio de Investigaci\u00f3n de Electr\u00f3nica y del Departamento de Biolog\u00eda del Instituto de Tecnolog\u00eda de Massachusetts, MIT, publican una investigaci\u00f3n por la cual son propuestos al Premio Nobel de ciencia. Entre estos investigadores se encontraba el bi\u00f3logo chileno Humberto Maturana, junto a Jerome Lettvin, Warren McCullog y Walter Pitt.<\/p>\n\n\n\n La investigaci\u00f3n lleva el nombre de \u201cLo que el ojo de la rana le dice al cerebro de la rana\u201d , y en ella se estudian los proceso internos de coordinaciones senso-efectoras, confirmando los hallazgos de Sperry y mostrando que ellos dependen de la estructura de cada sujeto. A partir de esos desarrollos Humberto Maturana, conjuntamente con Francisco Varela contin\u00faan las investigaciones que los lleva a observar el funcionamiento aut\u00f3nomo del ser vivo en sus proceso celulares que denominaron autopoiesis.<\/p>\n\n\n\n El resultado de esas investigaciones fueron publicada en 1973 en un texto con un titulo sugerente: \u201cDe maquinas y seres vivos\u201d La diferencia entre una maquina que procesa informaci\u00f3n y un ser vivo, seg\u00fan estas investigaciones, es que ella cuestionan la concepci\u00f3n imperante basada en la met\u00e1fora computacional, en que la mente es considerada como el software y el cerebro y el cuerpo como el hardware. En s\u00edntesis, los procesos sensorio- motores percepci\u00f3n y acci\u00f3n, son fundamentalmente inseparables en la cognici\u00f3n vivida, y no est\u00e1n simplemente ligados en forma contingente como input\/ouput.<\/p>\n\n\n\n En esta mirada la inteligencia artificial puede ser un poderoso instrumento para apoyar procesos de conocimiento, pero no puede reemplazar a los procesos mismos que son ejecutados por sujetos que operan con autonom\u00eda respect\u00f3 al medio y con clausura operacional en su sistema nervioso. Aqu\u00ed se encuentra la diferencia entre las m\u00e1quinas y los seres vivos. Es mi parecer que en esta confusi\u00f3n esta uno de los mayores peligros que presenta la tecnolog\u00eda de la inteligencia artificial.<\/p>\n\n\n\n Referencias<\/strong><\/p>\n\n\n\n Boric G. 2023, Discurso 78 per\u00edodo de Sesiones Asamblea de Naciones Unidas. htts:\/ www.un.org<\/p>\n\n\n\n Chul Han B., 2023, \u201cLa crisis de la narraci\u00f3n\u201d, Ed. Herder, Barcelona<\/p>\n\n\n\n Lagos R., 2023, Inteligencia artificial y la urgencia de la pol\u00edtica, www.latercera.com columna 30 de Septiembre 2023<\/p>\n\n\n\n Leiva C., J., 2020, \u201cDe la pedagog\u00eda del oprimido a la del suprimido\u201d, Primera Edici\u00f3n, Santiago de Chile, Editorial ALTHAEA<\/p>\n\n\n\n Lettvin, J. https:\/\/es.wikipedia.org\/wiki\/Jerome_Lettvin<\/p>\n\n\n\n Maturana H. y Varela F., 1973,\u201dDe m\u00e1quinas y seres vivos\u201d. Santiago, Ed. Universitaria<\/p>\n\n\n\n Spencer-Brown, G., 1973, \u201cLaws of form\u201d, Nueva York, Bantam<\/p>\n\n\n\n Sperry R.W. \u201cTe problema of central nervous reorganization alternervere generation and muscletransposition\u201d The Quarterl y Review of Biology Vol. 20, No. 4 (Dec., 1945),<\/p>\n\n\n\n Varela F., 1996 , \u201cConocer Las ciencias cognitivas: tendencias y perspectivas\u201d Ed. Gedisa Barcelona<\/p>\n\n\n\n Varela, F., 2000,\u201dEl fen\u00f3meno de la vida\u201d Dolmen Ediciones, Chile<\/p>\n\n\n\n Why is there a duality or confusing ambiguity with artificial intelligence that makes it risky?<\/strong><\/p>\n\n\n\n Jorge Leiva Cabanillas. Chile<\/p>\n\n\n\n Abstract<\/strong><\/p>\n\n\n\n This paper raises some considerations about artificial intelligence, distinguishing two moments or revolutions in the history of the development of cognitive sciences from cybernetics, placing the origin of AI in the space of the first cognitive revolution. The purpose is to show that its development is that of a computer technology and not a scientific development of the search for a procedure to acquire knowledge. To this end, the difference between information and knowledge is raised, placing the former closer to the first moment of the development of cognitive sciences and the latter within the space of the second revolution of these sciences. It is observed that the warnings of the risk involved in the development of AI are based on a lack of clarity about its origin, generating confusion about its development as a technical tool supposedly and erroneously capable of replacing human intelligence.<\/p>\n\n\n\n Keywords: Cognitive sciences, cybernetics, information, knowledge.<\/p>\n\n\n\n Two statements about artificial intelligence in my country have caught my attention. The first is from former President Lagos, who stated in a newspaper article that AI creates “realities” that are not “real”. He argues that it “will present unprecedented challenges”. Reflecting on its contribution to medicine, he adds, “but that same technology will produce mechanisms to protect us… So we are faced with the challenge of managing the duality of the new reality that is coming to us.”<\/p>\n\n\n\n The second statement is from current President Boric, in his address to the United Nations, affirming that “Every major transformation in human history has been a great opportunity to build more just societies, but also, if done poorly, it can be a source of new injustices.”<\/p>\n\n\n\n Both statements warn that the advent of this powerful advance in computer science as cybernetic technology brings with it risky ambiguity. What is the source of this ambiguity?<\/p>\n\n\n\n I believe the origin of this risk posed by AI lies in a double confusion: firstly, regarding the concept of intelligence itself, and secondly, the distinction between information processes and knowledge acquisition processes. These issues are part of the history of what are now called cognitive sciences. Therefore, understanding AI will only find answers by referring to its history.<\/p>\n\n\n\n This history shows a notable shift in the modern understanding of the development of the concept of mind and its relationship with nature. Biocybernetic biologist F. Varela points out that it was only halfway through the last century that science recognized the legitimacy of research on knowledge itself. He argues that it is as a result of this shift that knowledge has become linked to technologies like artificial intelligence, which provoke changes in social practices.<\/p>\n\n\n\n From this process onwards, Western society faces questions such as: Is the mind a manipulation of symbols? Can a machine understand language? This highlights that these questions affect people’s lives and are not mere theoretical issues, explaining why they have deeply penetrated the minds of younger generations through computer games and science fiction.<\/p>\n\n\n\n For a comprehensive understanding of the implications of technology expressed in AI, it is necessary to know its historical journey. This journey shows us that at the intersection of neurobiology, psychology, and informatics, a unified approach to phenomena such as perception, knowledge, and understanding is constructed. A new continent of knowledge emerges: that of cognitive sciences, which requires deeper exploration.<\/p>\n\n\n\n This emerging discipline encompasses phenomena such as the functioning of the human mind, the explanation of animal behavior, and the performance of computers, all subjected to studies focused on a common perspective. This change in science was introduced by cognitive sciences, which in their early development called these investigations the cognitive program. According to this, and here lies the confusion, knowledge and the processes of how it is acquired were linked to a technology that transforms the social practices that make it possible; artificial intelligence is the most visible aspect of this process.<\/p>\n\n\n\n This process of cognitive sciences was the result of intense dialogue among scientists of very diverse backgrounds. It was an unprecedented interdisciplinary effort. These efforts are visibly centered around the development of a new scientific and technical discipline: cybernetics.<\/p>\n\n\n\n Cognitive sciences follow the course of this development and around cybernetics present two moments: a first cognitive revolution linked to first-order cybernetics, which operates on open systems, and a second moment that shapes a second cognitive revolution linked to second-order cybernetics, which acts on systems operating with operational closure.<\/p>\n\n\n\n I will pause at this point because it is crucial to understand the true scope of computer science technology in artificial intelligence, to dispel doubts, and to resolve ambiguities about its contribution. It also dispels myths such as the belief that AI will replace and surpass human intelligence.<\/p>\n\n\n\n Some history of the cognitive revolution linked to cybernetics. A first moment<\/strong><\/p>\n\n\n\n We will see the two moments of the cognitive revolution linked to two moments of cybernetics. Let’s start with the first. In 1878, Claude Bernard observed analogies between the regulation process of steam engines and that of living organisms in response to external or internal changes that could disrupt metabolism. In 1932, over 50 years later, Walter Cannon coined the term “homeostasis” to describe this tendency of living organisms to maintain internal equilibrium.<\/p>\n\n\n\n During World War II in 1939, American mathematician and philosopher Norbert Wiener, along with engineer Julian Bigelow, at the request of the armed forces of their country, worked on building devices to reduce aiming errors in aerial combat due to the increased speed in new aeronautical designs. Both concluded that a very important factor in voluntary activity is what control engineers call feedback.<\/p>\n\n\n\n From another field of science, Arturo Rosemblueth, a Mexican physician, outlined the basic concepts equating the behavior of the nervous system with machines. As a result of his research, he reported that some patients affected by certain lesions or malformations of the nervous system exhibit behaviors analogous to those described by Wiener’s machines.<\/p>\n\n\n\n Following this line of research in 1942, and situated within the same framework, the Macy Foundation organized its first conference on the topic of “brain inhibition” linked to Rosemblueth’s research.<\/p>\n\n\n\n In 1943, the journal “Philosophy of Science” published an article from this meeting: “Behavior, Purpose and Teleology,” written by Wiener, Rosenblueth, and Bigelow, which established a new scientific path. They proposed a compartmental approach to phenomena and reconsidered the question of teleology.<\/p>\n\n\n\n This compartmental approach does not attempt to analyze the internal organization of the entities it studies, their structure, or their properties, but aims to examine only observable behavior, relationships, outputs in relation to inputs, without speculating on the internal characteristics of the entity, which they consider a “black box.” These scientists propose a common viewpoint, affirming that the concept of “feedback” is the key to explaining all intentional behavior.<\/p>\n\n\n\n In 1946, the Macy Foundation resumed meetings that had been interrupted by the Second World War, which eventually led to a science of control: cybernetics. The first meeting was titled “Teleological Mechanisms and Circular Causal Systems.” As a result of these meetings, Wiener published his work “Cybernetics” in 1948, synthesizing the research and results of the early Macy conferences.<\/p>\n\n\n\n From that moment on, the word “cybernetics” became a symbol for all as a symbol of their common research, and the participants decided to adopt this name for the following three Macy conferences. This group of scientists shared the impression of participating in a historic event: the creation of a “new conceptual framework for scientific research in life sciences.”<\/p>\n\n\n\n The explicit intention of the cybernetic movement was to create a science of the mind, leading to a subsequent stage: the cognitivist hypothesis that shapes a second moment in the historical development of knowledge sciences.<\/p>\n\n\n\n The central intuition of cognitivism is that intelligence, including human intelligence, resembles information technology so much that cognition can be defined as computations of symbolic representations. The cognitivist argument is that intelligent behavior assumes the ability to represent the world in a certain way. This intuition shows that from the standpoint of the ontological dimension of paradigms, this phase of the development of these sciences assumes the existence of a world independent of the observer.<\/p>\n\n\n\n It is in this explanatory path and in this phase of the development of knowledge sciences that the project of artificial intelligence is developed. As recognized by cell biologist Francisco Varela, “the cybernetic phase of cognitive sciences (1940-1956) produced an astonishing variety of concrete results, in addition to a lasting influence.” He points out some results of this phase: The invention of information processing machines, the basis of artificial intelligence; the use of mathematical logic to understand the functioning of the nervous system; the establishment of the metadiscipline of systems theory, which has left a mark on many branches of science, such as engineering, biology, social sciences, and disciplines like economics with game theory and business administration.<\/p>\n\n\n\n The response to the warning issued by the politicians mentioned at the beginning of this article lies in the misunderstanding that the arrival of this powerful advance in computer science as cybernetic technique brings with it a risky ambiguity whose source is the result of the first revolution of cognitive sciences.<\/p>\n\n\n\n Before explaining what the second revolution of cognitive sciences consists of, to avoid the ambiguity in which artificial intelligence is usually understood, it is necessary to delve a little into what it means for the concept of information to be relevant in this context.<\/p>\n\n\n\n In one of his latest writings on the crisis of narration in the post-industrial world, philosopher Byung-Chul Han asserts that “information lacks ontological firmness.” Citing sociologist Niklas Luhmann, he argues that the cosmology of information “is not that of being, but of contingency.” According to this author, information is additive and accumulative and, therefore, does not convey meaning. The next step is the need to adopt an epistemological position. Epistemologically, the subject of information operates as an open system that is conceived by articulating input and output processes. The subject of knowledge, on the other hand, is a subject that assumes the operational closure of its system to access a world independent of its experience, preventing it from having an instructive relationship with the environment and forcing it to construct its own meanings.<\/p>\n\n\n\n This is a turning point that artificial intelligence places us. Are we seeking information or seeking knowledge? In the former, it is a powerful technical tool; in the latter, it can be a disturbing intervention in our search. What needs to be recognized is that we constantly move along both paths.<\/p>\n\n\n\n I want to emphasize that this distinction is of paramount importance in social science, for example, when we practice pedagogy. The risk we point out with artificial intelligence is that imperceptibly it can eliminate these two aspects of the development of scientific thought in practice, because it assumes two different conceptions of the learning subject. It is different to practice pedagogy under the assumption that the cognizant subject learns as an information processor, than to assume and recognize that it is their experiences, from where they learn. This implies that it is our “captures”, our way of perceiving the world the source of our knowledge and that they are not “bits of information” or data that we process. AI is nothing more than an elaborate technique of accumulation, coordination, and processing of data. In this sense, it can help and increase the performance of the human brain in this part of the knowledge process, but it cannot perform the rest of the operations that it develops to generate knowledge.<\/p>\n\n\n\n Ronald Laing, cited by Spencer Brown, asserts that to be honest “what empirical science calls <data>, should be called captures… as they are arbitrarily selected by the nature of the already formed hypothesis…” He refers to “Data” as what is given and “Captures” as what is captured.<\/p>\n\n\n\n From the field of biocybernetic biology, Francisco Varela questions the widespread idea of the concept of information to explain the structure of knowledge, arguing that “it is not necessary to rely on an order of pre-existing things,” since the pivot of this is precisely “its ability to explain meaning and regularity.” Thus, information should not appear as an intrinsic order but as an emergent order derived from cognitive activities themselves.<\/p>\n\n\n\n This perspective of biocybernetic biologists is at the beginning of a paradigmatic change that opens up the emergence of a second revolution in cognitive sciences. Artificial intelligence is not part of this process, as it constitutes a third stage in the development of cognitive sciences (1958), which presents itself precisely as an alternative to the symbolic orientation underlying AI. According to these biologists, this new approach focuses on emergence and self-organization, that is, on connectionism, association, and network dynamics.<\/p>\n\n\n\n In this regard, Varela argues that “the thesis I would like to propose in this work is the following: there are clear indications that from the set of sciences dealing with knowledge and cognition – cognitive sciences – have slowly become aware that things have been approached backwards, and have begun a radical paradigmatic or epistemic shift. The core of this emerging vision is the conviction that the true units of knowledge are of an eminently concrete, embodied, lived nature\u201d.<\/p>\n\n\n\n Some history of the cognitive revolution linked to cybernetics. A second moment<\/strong><\/p>\n\n\n\n The emergence of this new approach focusing on the emergence and self-organization of knowledge processes, giving rise to a second moment in the development of cognitive sciences, finds its origins in the research conducted by American biologist Roger Sperry in 1943. This biologist performed a crucial experiment with a salamander, seeking to explain the different functioning of our two brain hemispheres. These investigations led him to receive the Nobel Prize in 1981. Using the organic plasticity of this urodele, Sperry rotated one of its eyes 180 degrees and observed that once rotated back into its eye socket, the salamander did not correct its accurate aim in capturing its insect prey. What the experiment shows is that the question of whether it corrects its aim is blind to the fact that the act of capturing insects is not an act of aiming at that object, but rather making an internal correlation.<\/p>\n\n\n\n Seventeen years later, scientists from the Electronics Research Laboratory and the Department of Biology at the Massachusetts Institute of Technology, MIT, published research for which they were proposed for the Nobel Prize in Science. Among these researchers was Chilean biologist Humberto Maturana, alongside Jerome Lettvin, Warren McCullog, and Walter Pitt.<\/p>\n\n\n\n The research was titled “What the frog’s eye tells the frog’s brain,” and it studied internal processes of sensorimotor coordination, confirming Sperry’s findings and showing that they depend on the structure of each subject. Based on these developments, Humberto Maturana, together with Francisco Varela, continued their research that led them to observe the autonomous functioning of living beings in their cellular processes, which they termed autopoiesis.<\/p>\n\n\n\n The result of these investigations was published in 1973 in a text with a suggestive title: “From Machines to Living Beings.” The difference between a machine that processes information and a living being, according to this research, is that they question the prevailing conception based on the computational metaphor, where the mind is considered as the software and the brain and body as the hardware. In summary, sensorimotor processes\u2014perception and action\u2014are fundamentally inseparable in lived cognition, and they are not simply contingently linked as input\/output.<\/p>\n\n\n\n In this view, artificial intelligence can be a powerful tool to support knowledge processes, but it cannot replace the processes themselves that are executed by subjects operating autonomously with respect to the environment and with operational closure in their nervous system. Here lies the difference between machines and living beings. In my opinion, this confusion represents one of the greatest dangers posed by artificial intelligence technology.<\/p>\n\n\n\n References<\/strong><\/p>\n\n\n\n Boric G. 2023, Discurso 78 per\u00edodo de Sesiones Asamblea de Naciones Unidas. htts:\/ www.un.org<\/p>\n\n\n\n Chul Han B., 2023, \u201cLa crisis de la narraci\u00f3n\u201d, Ed. Herder, Barcelona<\/p>\n\n\n\n Lagos R., 2023, Inteligencia artificial y la urgencia de la pol\u00edtica, www.latercera.com columna 30 de Septiembre 2023<\/p>\n\n\n\n Leiva C., J., 2020, \u201cDe la pedagog\u00eda del oprimido a la del suprimido\u201d, Primera Edici\u00f3n, Santiago de Chile, Editorial ALTHAEA<\/p>\n\n\n\n Lettvin, J. https:\/\/es.wikipedia.org\/wiki\/Jerome_Lettvin<\/p>\n\n\n\n Maturana H. y Varela F., 1973,\u201dDe m\u00e1quinas y seres vivos\u201d. Santiago, Ed. Universitaria<\/p>\n\n\n\n Spencer-Brown, G., 1973, \u201cLaws of form\u201d, Nueva York, Bantam<\/p>\n\n\n\n Sperry R.W. \u201cTe problema of central nervous reorganization alternervere generation and muscletransposition\u201d The Quarterl y Review of Biology Vol. 20, No. 4 (Dec., 1945),<\/p>\n\n\n\n Varela F., 1996 , \u201cConocer Las ciencias cognitivas: tendencias y perspectivas\u201d Ed. Gedisa Barcelona<\/p>\n\n\n\n Varela, F., 2000,\u201dEl fen\u00f3meno de la vida\u201d Dolmen Ediciones, Chile<\/p>\n\n\n\n Por que ocorre uma dualidade ou ambiguidade confusa com a intelig\u00eancia artificial que a torna arriscada?<\/strong><\/p>\n\n\n\n Jorge Leiva Cabanillas. Chile<\/p>\n\n\n\n Resumo<\/strong><\/p>\n\n\n\n Neste trabalho s\u00e3o levantadas algumas considera\u00e7\u00f5es a respeito da intelig\u00eancia artificial, para as quais se distinguem dois momentos ou revolu\u00e7\u00f5es na hist\u00f3ria do desenvolvimento das ci\u00eancias cognitivas a partir da cibern\u00e9tica, situando a origem da IA no espa\u00e7o da primeira revolu\u00e7\u00e3o cognitiva. O objetivo \u00e9 mostrar que o seu desenvolvimento \u00e9 o de uma tecnologia inform\u00e1tica e n\u00e3o um desenvolvimento cient\u00edfico da busca de um procedimento para adquirir conhecimento. Para isso, levanta-se a diferen\u00e7a entre informa\u00e7\u00e3o e conhecimento, situando a primeira mais pr\u00f3xima do primeiro momento do desenvolvimento das ci\u00eancias cognitivas e a segunda, no espa\u00e7o da segunda revolu\u00e7\u00e3o destas ci\u00eancias. Nota-se que os alertas sobre o risco que o desenvolvimento da IA acarreta. baseiam-se na falta de clareza sobre a sua origem, gerando confus\u00e3o sobre o seu desenvolvimento como uma ferramenta t\u00e9cnica suposta e erroneamente capaz de substituir a intelig\u00eancia humana.<\/p>\n\n\n\n Palavras-chave: Ci\u00eancias cognitivas, cibern\u00e9tica, informa\u00e7\u00e3o, conhecimento<\/p>\n\n\n\n Duas declara\u00e7\u00f5es sobre intelig\u00eancia artificial no meu pa\u00eds chamaram minha aten\u00e7\u00e3o. A primeira \u00e9 do ex-presidente Lagos, que afirmou em um artigo de jornal que a IA cria “realidades” que n\u00e3o s\u00e3o “reais”. Ele argumenta que “apresentar\u00e1 desafios sem precedentes”. Refletindo sobre sua contribui\u00e7\u00e3o na medicina, ele adiciona: “mas essa mesma tecnologia produzir\u00e1 mecanismos para nos proteger… Ent\u00e3o estamos diante do desafio de gerenciar a dualidade da nova realidade que nos alcan\u00e7a”.<\/p>\n\n\n\n A segunda declara\u00e7\u00e3o \u00e9 do atual Presidente Boric, em seu discurso na ONU, afirmando que “cada grande transforma\u00e7\u00e3o na hist\u00f3ria da humanidade foi uma grande oportunidade para construir sociedades mais justas, mas tamb\u00e9m, se mal feita, pode ser fonte de novas injusti\u00e7as”.<\/p>\n\n\n\n Ambas as declara\u00e7\u00f5es alertam que a chegada deste avan\u00e7o poderoso na ci\u00eancia da computa\u00e7\u00e3o como tecnologia cibern\u00e9tica traz consigo uma ambiguidade arriscada. Qual \u00e9 a fonte desta ambiguidade?<\/p>\n\n\n\n Acredito que a origem deste risco que a IA est\u00e1 colocando em jogo reside em uma dupla confus\u00e3o: em primeiro lugar, em rela\u00e7\u00e3o ao pr\u00f3prio conceito de intelig\u00eancia, e em segundo lugar, na distin\u00e7\u00e3o entre processos de informa\u00e7\u00e3o e processos de aquisi\u00e7\u00e3o de conhecimento. Essas quest\u00f5es fazem parte da hist\u00f3ria das ci\u00eancias cognitivas como s\u00e3o conhecidas hoje. Portanto, entender a IA encontrar\u00e1 respostas apenas ao remeter-se \u00e0 sua hist\u00f3ria.<\/p>\n\n\n\n Esta hist\u00f3ria mostra uma mudan\u00e7a not\u00e1vel na compreens\u00e3o moderna do desenvolvimento do conceito de mente e sua rela\u00e7\u00e3o com a natureza. O bi\u00f3logo biocibern\u00e9tico F. Varela aponta que foi apenas na metade do s\u00e9culo passado que a ci\u00eancia reconheceu a legitimidade da pesquisa sobre o conhecimento em si. Ele argumenta que \u00e9 como resultado dessa mudan\u00e7a que o conhecimento se ligou a tecnologias como a intelig\u00eancia artificial, que provocam mudan\u00e7as nas pr\u00e1ticas sociais.<\/p>\n\n\n\n A partir deste processo, a sociedade ocidental enfrenta quest\u00f5es como: a mente \u00e9 uma manipula\u00e7\u00e3o de s\u00edmbolos? Uma m\u00e1quina pode entender a linguagem? Isso evidencia que essas quest\u00f5es afetam a vida das pessoas e n\u00e3o s\u00e3o apenas quest\u00f5es te\u00f3ricas, explicando por que elas penetraram profundamente nas mentes das gera\u00e7\u00f5es mais jovens atrav\u00e9s de jogos de computador e fic\u00e7\u00e3o cient\u00edfica.<\/p>\n\n\n\n Para compreender plenamente as implica\u00e7\u00f5es da tecnologia expressa na IA, \u00e9 necess\u00e1rio conhecer sua jornada hist\u00f3rica. Esta jornada nos mostra que na interse\u00e7\u00e3o da neurobiologia, psicologia e inform\u00e1tica, \u00e9 constru\u00edda uma abordagem unificada aos fen\u00f4menos como percep\u00e7\u00e3o, conhecimento e compreens\u00e3o. Surge um novo continente de conhecimento: o das ci\u00eancias cognitivas, que requer uma explora\u00e7\u00e3o mais profunda.<\/p>\n\n\n\n Esta disciplina emergente abrange fen\u00f4menos como o funcionamento da mente humana, a explica\u00e7\u00e3o do comportamento animal e o desempenho dos computadores, todos sujeitos a estudos focados em uma perspectiva comum. Esta mudan\u00e7a na ci\u00eancia foi introduzida pelas ci\u00eancias cognitivas, que em seu desenvolvimento inicial chamaram essas investiga\u00e7\u00f5es de programa cognitivo. De acordo com isso, e aqui reside a confus\u00e3o, o conhecimento e os processos de como ele \u00e9 adquirido foram ligados a uma tecnologia que transforma as pr\u00e1ticas sociais que a tornam poss\u00edvel; a intelig\u00eancia artificial \u00e9 o aspecto mais vis\u00edvel desse processo.<\/p>\n\n\n\n Este processo das ci\u00eancias cognitivas foi resultado de um intenso di\u00e1logo entre cientistas de forma\u00e7\u00f5es muito diversas. Foi um esfor\u00e7o interdisciplinar sem precedentes. Estes esfor\u00e7os s\u00e3o visivelmente centrados no desenvolvimento de uma nova disciplina cient\u00edfica e t\u00e9cnica: a cibern\u00e9tica.<\/p>\n\n\n\n As ci\u00eancias cognitivas seguem o curso deste desenvolvimento e em torno da cibern\u00e9tica apresentam dois momentos: uma primeira revolu\u00e7\u00e3o cognitiva ligada \u00e0 cibern\u00e9tica de primeira ordem, que opera em sistemas abertos, e um segundo momento que molda uma segunda revolu\u00e7\u00e3o cognitiva ligada \u00e0 cibern\u00e9tica de segunda ordem, que atua em sistemas operando com fechamento operacional.<\/p>\n\n\n\n Vou pausar aqui porque \u00e9 crucial para entender o verdadeiro alcance da tecnologia da ci\u00eancia da computa\u00e7\u00e3o na intelig\u00eancia artificial, dissipar d\u00favidas e resolver ambiguidades sobre sua contribui\u00e7\u00e3o. Tamb\u00e9m dissolve mitos como a cren\u00e7a de que a IA substituir\u00e1 e superar\u00e1 a intelig\u00eancia humana.<\/p>\n\n\n\n Algo da hist\u00f3ria da revolu\u00e7\u00e3o cognitiva ligada \u00e0 cibern\u00e9tica. Um primeiro momento<\/strong><\/p>\n\n\n\n Veremos os dois momentos da revolu\u00e7\u00e3o cognitiva ligada a dois momentos da cibern\u00e9tica. Vamos come\u00e7ar pelo primeiro. Em 1878, Claude Bernard observou analogias entre o processo de regula\u00e7\u00e3o das m\u00e1quinas a vapor e o dos organismos vivos diante de mudan\u00e7as externas ou internas que poderiam perturbar o metabolismo. Em 1932, mais de 50 anos depois, Walter Cannon cunhou o termo “homeostase” para descrever essa tend\u00eancia dos organismos vivos de manter o equil\u00edbrio interno.<\/p>\n\n\n\n O matem\u00e1tico e fil\u00f3sofo norte-americano Norbert Wiener, durante a Segunda Guerra Mundial, em 1939, juntamente com o engenheiro Julian Bigelow, a pedido das for\u00e7as armadas de seu pa\u00eds, trabalhou na constru\u00e7\u00e3o de dispositivos para reduzir erros de mira em combates a\u00e9reos devido ao aumento da velocidade nos novos designs aeron\u00e1uticos. Ambos conclu\u00edram que um fator muito importante na atividade volunt\u00e1ria \u00e9 o que os engenheiros de controle chamam de feedback.<\/p>\n\n\n\n De outro campo da ci\u00eancia, Arturo Rosemblueth, m\u00e9dico mexicano, delineou os conceitos b\u00e1sicos que equiparam o comportamento do sistema nervoso ao das m\u00e1quinas. Como resultado de suas pesquisas, ele relatou que alguns pacientes afetados por certas les\u00f5es ou malforma\u00e7\u00f5es do sistema nervoso apresentam comportamentos an\u00e1logos aos das m\u00e1quinas descritas por Wiener.<\/p>\n\n\n\n Seguindo essa linha de pesquisa em 1942, e situados dentro do mesmo quadro, a Funda\u00e7\u00e3o Macy organizou sua primeira confer\u00eancia sobre o tema da “inibi\u00e7\u00e3o cerebral” ligada \u00e0s pesquisas de Rosemblueth.<\/p>\n\n\n\n Em 1943, a revista “Philosophy of Science” publicou um artigo deste encontro: “Behavior, Purpose and Teleology”, escrito por Wiener, Rosenblueth e Bigdelow, que estabeleceu um novo caminho cient\u00edfico. Eles propuseram uma abordagem compartimental dos fen\u00f4menos e reconsideraram a quest\u00e3o da teleologia.<\/p>\n\n\n\n Esta abordagem compartimental n\u00e3o tenta analisar a organiza\u00e7\u00e3o interna das entidades que estuda, sua estrutura ou propriedades, mas visa examinar apenas o comportamento observ\u00e1vel, as rela\u00e7\u00f5es, as sa\u00eddas em rela\u00e7\u00e3o \u00e0s entradas, sem especular sobre as caracter\u00edsticas internas da entidade, que consideram uma “caixa preta”. Esses cientistas prop\u00f5em um ponto de vista comum, afirmando que o conceito de “feedback” \u00e9 a chave para explicar todo comportamento intencional.<\/p>\n\n\n\n Em 1946, a Funda\u00e7\u00e3o Macy retomou as reuni\u00f5es que foram interrompidas pela Segunda Guerra Mundial, o que acabou levando a uma ci\u00eancia do controle: a cibern\u00e9tica. A primeira reuni\u00e3o recebeu o t\u00edtulo de “Mecanismos Teleol\u00f3gicos e Sistemas Causais Circulares”. Como resultado dessas reuni\u00f5es, em 1948, Wiener publicou sua obra “Cybernetics”, sintetizando as pesquisas e resultados das primeiras confer\u00eancias Macy.<\/p>\n\n\n\n A partir desse momento, a palavra “cibern\u00e9tica” tornou-se um s\u00edmbolo para todos como um s\u00edmbolo de sua pesquisa comum, e os participantes decidiram adotar esse nome para as tr\u00eas confer\u00eancias Macy seguintes. Este grupo de cientistas compartilhou a impress\u00e3o de participar de um evento hist\u00f3rico: a cria\u00e7\u00e3o de um “novo quadro conceitual para pesquisa cient\u00edfica nas ci\u00eancias da vida”.<\/p>\n\n\n\n A inten\u00e7\u00e3o expl\u00edcita do movimento cibern\u00e9tico era criar uma ci\u00eancia da mente, levando a uma etapa subsequente: a hip\u00f3tese cognitivista que molda um segundo momento no desenvolvimento hist\u00f3rico das ci\u00eancias do conhecimento.<\/p>\n\n\n\n A intui\u00e7\u00e3o central do cognitivismo \u00e9 que a intelig\u00eancia, incluindo a intelig\u00eancia humana, se assemelha tanto \u00e0 tecnologia da informa\u00e7\u00e3o que a cogni\u00e7\u00e3o pode ser definida como computa\u00e7\u00f5es de representa\u00e7\u00f5es simb\u00f3licas. O argumento cognitivista \u00e9 que o comportamento inteligente pressup\u00f5e a capacidade de representar o mundo de certa maneira. Esta intui\u00e7\u00e3o mostra que do ponto de vista da dimens\u00e3o ontol\u00f3gica dos paradigmas, esta fase do desenvolvimento destas ci\u00eancias assume a exist\u00eancia de um mundo independente do observador.<\/p>\n\n\n\n \u00c9 neste caminho explicativo e nesta fase do desenvolvimento das ci\u00eancias do conhecimento que se desenvolve o projeto de uma intelig\u00eancia artificial. Como reconhecido pelo bi\u00f3logo celular Francisco Varela, “a fase cibern\u00e9tica das ci\u00eancias cognitivas (1940-1956) produziu uma variedade impressionante de resultados concretos, al\u00e9m de uma influ\u00eancia duradoura”. Ele destaca alguns resultados desta fase: A inven\u00e7\u00e3o de m\u00e1quinas de processamento de informa\u00e7\u00f5es, a base da intelig\u00eancia artificial; o uso da l\u00f3gica matem\u00e1tica para entender o funcionamento do sistema nervoso; o estabelecimento da metadisciplina da teoria dos sistemas, que deixou uma marca em muitos ramos da ci\u00eancia, como engenharia, biologia, ci\u00eancias sociais e disciplinas como economia com teoria dos jogos e administra\u00e7\u00e3o empresarial.<\/p>\n\n\n\n A resposta ao aviso emitido pelos pol\u00edticos mencionados no in\u00edcio deste artigo est\u00e1 na incompreens\u00e3o de que a chegada deste poderoso avan\u00e7o na ci\u00eancia da computa\u00e7\u00e3o como t\u00e9cnica cibern\u00e9tica traz consigo uma ambig\u00fcidade arriscada cuja fonte \u00e9 o resultado da primeira revolu\u00e7\u00e3o das ci\u00eancias cognitivas.<\/p>\n\n\n\n Antes de explicar o que consiste a segunda revolu\u00e7\u00e3o das ci\u00eancias cognitivas, para evitar a ambiguidade em que a intelig\u00eancia artificial costuma ser entendida, \u00e9 necess\u00e1rio aprofundar um pouco sobre o que significa que o conceito de informa\u00e7\u00e3o seja relevante neste contexto.<\/p>\n\n\n\n Em um de seus \u00faltimos escritos sobre a crise da narrativa no mundo p\u00f3s-industrial, o fil\u00f3sofo Byung-Chul Han afirma que “a informa\u00e7\u00e3o carece de firmeza ontol\u00f3gica”. Citando o soci\u00f3logo Niklas Luhmann, ele argumenta que a cosmologia da informa\u00e7\u00e3o “n\u00e3o \u00e9 a do ser, mas a da conting\u00eancia”. De acordo com este autor, a informa\u00e7\u00e3o \u00e9 aditiva e acumulativa e, portanto, n\u00e3o transmite significado. O pr\u00f3ximo passo \u00e9 a necessidade de adotar uma posi\u00e7\u00e3o epistemol\u00f3gica. Epistemologicamente, o sujeito da informa\u00e7\u00e3o opera como um sistema aberto que \u00e9 concebido articulando processos de entrada e sa\u00edda. O sujeito do conhecimento, por outro lado, \u00e9 um sujeito que assume o fechamento operacional de seu sistema para acessar um mundo independente de sua experi\u00eancia, impedindo-o de ter uma rela\u00e7\u00e3o instrutiva com o ambiente e for\u00e7ando-o a construir seus pr\u00f3prios significados.<\/p>\n\n\n\n Este \u00e9 um ponto de inflex\u00e3o que a intelig\u00eancia artificial nos coloca. Estamos buscando informa\u00e7\u00e3o ou conhecimento? No primeiro caso, \u00e9 uma ferramenta t\u00e9cnica poderosa; no segundo, pode ser uma interven\u00e7\u00e3o perturbadora em nossa busca. O que precisa ser reconhecido \u00e9 que estamos constantemente nos movendo por ambos os caminhos.<\/p>\n\n\n\n Quero enfatizar que esta distin\u00e7\u00e3o \u00e9 de import\u00e2ncia fundamental nas ci\u00eancias sociais, por exemplo, quando praticamos a pedagogia. O risco que apontamos com a intelig\u00eancia artificial \u00e9 que, imperceptivelmente, pode eliminar esses dois aspectos do desenvolvimento do pensamento cient\u00edfico na pr\u00e1tica, porque assume duas concep\u00e7\u00f5es diferentes do sujeito aprendiz. \u00c9 diferente praticar pedagogia sob o pressuposto de que o sujeito cognoscente aprende como um processador de informa\u00e7\u00e3o, do que assumir e reconhecer que s\u00e3o suas experi\u00eancias, de onde aprendem. Isso implica que s\u00e3o nossos “captas”, nossa maneira de perceber o mundo, a fonte de nosso conhecimento e que elas n\u00e3o s\u00e3o “bits de informa\u00e7\u00e3o” ou dados que processamos. IA n\u00e3o passa de uma t\u00e9cnica elaborada de acumula\u00e7\u00e3o, coordena\u00e7\u00e3o e processamento de dados. Neste sentido, pode ajudar e aumentar o desempenho do c\u00e9rebro humano nesta parte do processo de conhecimento, mas n\u00e3o pode realizar o resto das opera\u00e7\u00f5es que ele desenvolve para gerar conhecimento.<\/p>\n\n\n\n Ronald Laing, citado por Spencer Brown, afirma que para ser honesto “o que a ci\u00eancia emp\u00edrica chama de <dados>, deveria cham\u00e1-los de captas… pois s\u00e3o selecionados arbitrariamente pela natureza da hip\u00f3tese j\u00e1 formada…” Ele se refere a “Dados” como o que \u00e9 dado e a “Captas” como o que \u00e9 captado.<\/p>\n\n\n\n Do campo da biologia biocibern\u00e9tica, Francisco Varela questiona a ideia difundida do conceito de informa\u00e7\u00e3o para explicar a estrutura do conhecimento, argumentando que “n\u00e3o \u00e9 necess\u00e1rio apoiar-se em uma ordem de coisas preexistentes”, j\u00e1 que o piv\u00f4 \u00e9 precisamente “sua capacidade de explicar o significado e a regularidade”. Assim, a informa\u00e7\u00e3o n\u00e3o deve aparecer como uma ordem intr\u00ednseca, mas como uma ordem emergente e derivada das pr\u00f3prias atividades cognitivas.<\/p>\n\n\n\n Esta perspectiva dos bi\u00f3logos biocibern\u00e9ticos situa-se no in\u00edcio de uma mudan\u00e7a paradigm\u00e1tica que abre caminho para o surgimento de uma segunda revolu\u00e7\u00e3o das ci\u00eancias cognitivas. A intelig\u00eancia artificial n\u00e3o faz parte deste processo, pois constitui uma terceira etapa do desenvolvimento das ci\u00eancias cognitivas (1958), que se apresenta como uma alternativa \u00e0 orienta\u00e7\u00e3o simb\u00f3lica subjacente \u00e0 IA. De acordo com esses bi\u00f3logos, este novo enfoque foca na emerg\u00eancia e auto-organiza\u00e7\u00e3o, ou seja, no conexionismo, na associa\u00e7\u00e3o e na din\u00e2mica de rede.<\/p>\n\n\n\n Neste contexto, Varela sustenta que “a tese que gostaria de apresentar neste trabalho \u00e9 a seguinte: h\u00e1 claros ind\u00edcios de que do conjunto de ci\u00eancias que tratam do conhecimento e da cogni\u00e7\u00e3o – as ci\u00eancias cognitivas – lentamente foram tomando consci\u00eancia de que as coisas foram colocadas ao contr\u00e1rio, e come\u00e7aram uma virada radical paradigm\u00e1tica ou epist\u00eamica. O n\u00facleo desta vis\u00e3o emergente \u00e9 a convic\u00e7\u00e3o de que as verdadeiras unidades de conhecimento s\u00e3o eminentemente concretas, incorporadas, vividas\u201d.<\/p>\n\n\n\n Um pouco da hist\u00f3ria da revolu\u00e7\u00e3o cognitiva ligada \u00e0 cibern\u00e9tica. Um segundo momento<\/strong><\/p>\n\n\n\n A emerg\u00eancia dessa nova abordagem, focada na emerg\u00eancia e auto-organiza\u00e7\u00e3o dos processos de conhecimento, dando origem a um segundo momento no desenvolvimento das ci\u00eancias cognitivas, encontra suas origens nas pesquisas realizadas pelo bi\u00f3logo americano Roger Sperry em 1943. Esse bi\u00f3logo realizou um experimento crucial com uma salamandra, buscando explicar o funcionamento diferente de nossos dois hemisf\u00e9rios cerebrais. Essas investiga\u00e7\u00f5es o levaram a receber o Pr\u00eamio Nobel em 1981. Usando a plasticidade org\u00e2nica dessa urodelo, Sperry girou um dos olhos dela em 180 graus e observou que, uma vez girado de volta para sua cavidade ocular, a salamandra n\u00e3o corrigia seu preciso objetivo de capturar sua presa de insetos. O que o experimento mostra \u00e9 que a quest\u00e3o de se ela corrige seu objetivo \u00e9 cega ao fato de que o ato de capturar insetos n\u00e3o \u00e9 um ato de mirar esse objeto, mas sim fazer uma correla\u00e7\u00e3o interna.<\/p>\n\n\n\n Dezessete anos depois, cientistas do Laborat\u00f3rio de Pesquisa Eletr\u00f4nica e do Departamento de Biologia do Instituto de Tecnologia de Massachusetts, MIT, publicaram uma pesquisa pela qual foram propostos ao Pr\u00eamio Nobel de Ci\u00eancia. Entre esses pesquisadores estava o bi\u00f3logo chileno Humberto Maturana, ao lado de Jerome Lettvin, Warren McCullog e Walter Pitt.<\/p>\n\n\n\n A pesquisa recebeu o t\u00edtulo “O que o olho do sapo diz ao c\u00e9rebro do sapo” e estudou processos internos de coordena\u00e7\u00e3o sensorimotora, confirmando as descobertas de Sperry e mostrando que elas dependem da estrutura de cada sujeito. Com base nesses desenvolvimentos, Humberto Maturana, juntamente com Francisco Varela, continuaram suas pesquisas que os levaram a observar o funcionamento aut\u00f4nomo dos seres vivos em seus processos celulares, que eles denominaram autopoiese.<\/p>\n\n\n\n O resultado dessas investiga\u00e7\u00f5es foi publicado em 1973 em um texto com um t\u00edtulo sugestivo: “De M\u00e1quinas a Seres Vivos”. A diferen\u00e7a entre uma m\u00e1quina que processa informa\u00e7\u00f5es e um ser vivo, de acordo com esta pesquisa, \u00e9 que elas questionam a concep\u00e7\u00e3o predominante baseada na met\u00e1fora computacional, onde a mente \u00e9 considerada como o software e o c\u00e9rebro e o corpo como o hardware. Em resumo, processos sensorimotores – percep\u00e7\u00e3o e a\u00e7\u00e3o – s\u00e3o fundamentalmente insepar\u00e1veis na cogni\u00e7\u00e3o vivida e n\u00e3o est\u00e3o simplesmente ligados de forma contingente como entrada\/sa\u00edda.<\/p>\n\n\n\n Nesta vis\u00e3o, a intelig\u00eancia artificial pode ser uma ferramenta poderosa para apoiar processos de conhecimento, mas n\u00e3o pode substituir os processos executados pelos pr\u00f3prios sujeitos que operam autonomamente em rela\u00e7\u00e3o ao ambiente e com fechamento operacional em seu sistema nervoso. Aqui est\u00e1 a diferen\u00e7a entre m\u00e1quinas e seres vivos. Na minha opini\u00e3o, essa confus\u00e3o representa um dos maiores perigos apresentados pela tecnologia de intelig\u00eancia artificial.<\/p>\n\n\n\n Refer\u00eancias:<\/strong><\/p>\n\n\n\n Boric G. 2023, Discurso 78 per\u00edodo de Sesiones Asamblea de Naciones Unidas. htts:\/ www.un.org<\/p>\n\n\n\n Chul Han B., 2023, \u201cLa crisis de la narraci\u00f3n\u201d, Ed. Herder, Barcelona<\/p>\n\n\n\n Lagos R., 2023, Inteligencia artificial y la urgencia de la pol\u00edtica, www.latercera.com columna 30 de Septiembre 2023<\/p>\n\n\n\n Leiva C., J., 2020, \u201cDe la pedagog\u00eda del oprimido a la del suprimido\u201d, Primera Edici\u00f3n, Santiago de Chile, Editorial ALTHAEA<\/p>\n\n\n\n Lettvin, J. https:\/\/es.wikipedia.org\/wiki\/Jerome_Lettvin<\/p>\n\n\n\n Maturana H. y Varela F., 1973,\u201dDe m\u00e1quinas y seres vivos\u201d. Santiago, Ed. Universitaria<\/p>\n\n\n\n Spencer-Brown, G., 1973, \u201cLaws of form\u201d, Nueva York, Bantam<\/p>\n\n\n\n Sperry R.W. \u201cTe problema of central nervous reorganization alternervere generation and muscletransposition\u201d The Quarterl y Review of Biology Vol. 20, No. 4 (Dec., 1945),<\/p>\n\n\n\n Varela F., 1996 , \u201cConocer Las ciencias cognitivas: tendencias y perspectivas\u201d Ed. Gedisa Barcelona<\/p>\n\n\n\n Varela, F., 2000,\u201dEl fen\u00f3meno de la vida\u201d Dolmen Ediciones, Chile<\/p>\n\n\n\n Pourquoi une dualit\u00e9 ou une ambigu\u00eft\u00e9 confuse se produit-elle avec l’intelligence artificielle, la rendant ainsi risqu\u00e9e?<\/strong><\/p>\n\n\n\n Jorge Leiva Cabanillas. Chile<\/p>\n\n\n\n R\u00e9sum\u00e9<\/strong><\/p>\n\n\n\n Dans ce travail, quelques consid\u00e9rations sont soulev\u00e9es concernant l’intelligence artificielle, pour laquelle deux moments ou r\u00e9volutions se distinguent dans l’histoire du d\u00e9veloppement des sciences cognitives de la cybern\u00e9tique, pla\u00e7ant l’origine de l’IA dans l’espace de la premi\u00e8re r\u00e9volution cognitive. Le but est de montrer que son d\u00e9veloppement est celui d’une technologie informatique et non un d\u00e9veloppement scientifique de recherche d’une proc\u00e9dure d’acquisition de connaissances. Pour ce faire, la diff\u00e9rence entre information et connaissance est soulev\u00e9e, pla\u00e7ant la premi\u00e8re plus proche du premier moment du d\u00e9veloppement des sciences cognitives et la seconde, dans l’espace de la deuxi\u00e8me r\u00e9volution de ces sciences. Il convient de noter les avertissements sur le risque que comporte le d\u00e9veloppement de l\u2019IA. reposent sur un manque de clart\u00e9 quant \u00e0 son origine, g\u00e9n\u00e9rant une confusion quant \u00e0 son d\u00e9veloppement en tant qu’outil technique cens\u00e9 et erron\u00e9ment capable de remplacer l’intelligence humaine.<\/p>\n\n\n\n Mots-cl\u00e9s: Sciences cognitives, cybern\u00e9tique, information, connaissances<\/p>\n\n\n\n Deux d\u00e9clarations sur l’intelligence artificielle dans mon pays ont attir\u00e9 mon attention. La premi\u00e8re est celle de l’ancien pr\u00e9sident Lagos, qui a affirm\u00e9 dans un article de journal que l’IA cr\u00e9e des “r\u00e9alit\u00e9s” qui ne sont pas “r\u00e9elles”. Il soutient qu’elle “pr\u00e9sentera des d\u00e9fis sans pr\u00e9c\u00e9dent”. En r\u00e9fl\u00e9chissant \u00e0 sa contribution \u00e0 la m\u00e9decine, il ajoute: “mais cette m\u00eame technologie produira des m\u00e9canismes pour nous prot\u00e9ger… Nous sommes donc confront\u00e9s au d\u00e9fi de g\u00e9rer la dualit\u00e9 de la nouvelle r\u00e9alit\u00e9 qui nous arrive”.<\/p>\n\n\n\n La deuxi\u00e8me d\u00e9claration est celle du pr\u00e9sident actuel Boric, dans son discours aux Nations Unies, affirmant que “chaque grande transformation de l’histoire de l’humanit\u00e9 a \u00e9t\u00e9 une grande opportunit\u00e9 pour construire des soci\u00e9t\u00e9s plus justes, mais aussi, si mal faite, peut \u00eatre source de nouvelles injustices”.<\/p>\n\n\n\n Ces deux d\u00e9clarations avertissent que l’arriv\u00e9e de cette avanc\u00e9e puissante dans la science informatique en tant que technologie cybern\u00e9tique apporte une ambigu\u00eft\u00e9 risqu\u00e9e. Quelle est la source de cette ambigu\u00eft\u00e9 ?<\/p>\n\n\n\n Je crois que l’origine de ce risque pos\u00e9 par l’IA r\u00e9side dans une double confusion: d’abord, en ce qui concerne le concept m\u00eame d’intelligence, et ensuite, la distinction entre les processus d’information et les processus d’acquisition de connaissances. Ces questions font partie de l’histoire des sciences cognitives telles qu’elles sont connues aujourd’hui. Par cons\u00e9quent, comprendre l’IA ne trouvera des r\u00e9ponses qu’en se r\u00e9f\u00e9rant \u00e0 son histoire.<\/p>\n\n\n\n Cette histoire montre un changement notable dans la compr\u00e9hension moderne du d\u00e9veloppement du concept de l’esprit et de sa relation avec la nature. Le biologiste biocybern\u00e9tique F. Varela souligne que ce n’est qu’\u00e0 la moiti\u00e9 du si\u00e8cle dernier que la science a reconnu la l\u00e9gitimit\u00e9 de la recherche sur la connaissance elle-m\u00eame. Il soutient que c’est \u00e0 la suite de ce changement que la connaissance s’est li\u00e9e \u00e0 des technologies comme l’intelligence artificielle, qui provoquent des changements dans les pratiques sociales.<\/p>\n\n\n\n \u00c0 partir de ce processus, la soci\u00e9t\u00e9 occidentale est confront\u00e9e \u00e0 des questions telles que: l’esprit est-il une manipulation de symboles ? Une machine peut-elle comprendre le langage ? Cela montre que ces questions affectent la vie des gens et ne sont pas seulement des questions th\u00e9oriques, expliquant pourquoi elles ont profond\u00e9ment p\u00e9n\u00e9tr\u00e9 l’esprit des jeunes g\u00e9n\u00e9rations \u00e0 travers les jeux informatiques et la science-fiction.<\/p>\n\n\n\n Pour une compr\u00e9hension compl\u00e8te des implications de la technologie exprim\u00e9e dans l’IA, il est n\u00e9cessaire de conna\u00eetre son parcours historique. Ce parcours montre qu’\u00e0 l’intersection de la neurobiologie, de la psychologie et de l’informatique, une approche unifi\u00e9e des ph\u00e9nom\u00e8nes tels que la perception, la connaissance et la compr\u00e9hension est construite. Un nouveau continent de connaissances \u00e9merge: celui des sciences cognitives, qui n\u00e9cessite une exploration plus approfondie.<\/p>\n\n\n\n Cette discipline \u00e9mergente englobe des ph\u00e9nom\u00e8nes tels que le fonctionnement de l’esprit humain, l’explication du comportement animal et les performances des ordinateurs, tous soumis \u00e0 des \u00e9tudes ax\u00e9es sur une perspective commune. Ce changement dans la science a \u00e9t\u00e9 introduit par les sciences cognitives, qui dans leur d\u00e9veloppement initial appelaient ces recherches le programme cognitif. Selon cela, et c’est l\u00e0 que r\u00e9side la confusion, la connaissance et les processus de son acquisition ont \u00e9t\u00e9 li\u00e9s \u00e0 une technologie qui transforme les pratiques sociales qui la rendent possible ; l’intelligence artificielle est l’aspect le plus visible de ce processus.<\/p>\n\n\n\n Ce processus des sciences cognitives a \u00e9t\u00e9 le r\u00e9sultat d’un intense dialogue entre des scientifiques de formations tr\u00e8s diverses. C’\u00e9tait un effort interdisciplinaire sans pr\u00e9c\u00e9dent. Ces efforts sont visiblement centr\u00e9s sur le d\u00e9veloppement d’une nouvelle discipline scientifique et technique: la cybern\u00e9tique.<\/p>\n\n\n\n Les sciences cognitives suivent le cours de ce d\u00e9veloppement et autour de la cybern\u00e9tique pr\u00e9sentent deux moments: une premi\u00e8re r\u00e9volution cognitive li\u00e9e \u00e0 la cybern\u00e9tique de premier ordre, qui op\u00e8re sur des syst\u00e8mes ouverts, et un second moment qui fa\u00e7onne une seconde r\u00e9volution cognitive li\u00e9e \u00e0 la cybern\u00e9tique de second ordre, qui agit sur des syst\u00e8mes op\u00e9rant avec une fermeture op\u00e9rationnelle.<\/p>\n\n\n\n Je m’arr\u00eate ici car il est crucial de comprendre la v\u00e9ritable port\u00e9e de la technologie informatique dans l’intelligence artificielle, de dissiper les doutes et de r\u00e9soudre les ambigu\u00eft\u00e9s quant \u00e0 sa contribution. Cela dissipe \u00e9galement des mythes tels que la croyance selon laquelle l’IA remplacera et d\u00e9passera l’intelligence humaine.<\/p>\n\n\n\n Quelque chose de l’histoire de la r\u00e9volution cognitive li\u00e9e \u00e0 la cybern\u00e9tique. Un premier moment<\/strong><\/p>\n\n\n\n Nous verrons les deux moments de la r\u00e9volution cognitive li\u00e9e \u00e0 deux moments de la cybern\u00e9tique. Commen\u00e7ons par le premier. En 1878, Claude Bernard observe des analogies entre le processus de r\u00e9gulation des machines \u00e0 vapeur et celui des organismes vivants face aux changements externes ou internes pouvant perturber le m\u00e9tabolisme. En 1932, plus de 50 ans plus tard, Walter Cannon nomme “hom\u00e9ostasie” cette tendance des organismes vivants \u00e0 maintenir l’\u00e9quilibre interne.<\/p>\n\n\n\n Le math\u00e9maticien et philosophe am\u00e9ricain Norbert Wiener, pendant la Seconde Guerre mondiale en 1939, avec l’ing\u00e9nieur Julian Bigelow, sur demande des forces arm\u00e9es de leur pays, travaillent sur la construction d’appareils r\u00e9duisant l’erreur de tir dans les combats a\u00e9riens en raison de l’augmentation de la vitesse dans les nouveaux designs a\u00e9ronautiques. Ils concluent tous deux qu’un facteur tr\u00e8s important de l’activit\u00e9 volontaire est ce que les ing\u00e9nieurs de contr\u00f4le appellent la r\u00e9troaction.<\/p>\n\n\n\n D’un autre domaine scientifique, Arturo Rosemblueth, m\u00e9decin mexicain, a trac\u00e9 les concepts de base qui comparent le comportement du syst\u00e8me nerveux \u00e0 celui des machines. \u00c0 la suite de ses recherches, il rapporte que certains patients atteints de certaines l\u00e9sions ou malformations du syst\u00e8me nerveux ont des comportements analogues \u00e0 ceux des machines d\u00e9crites par Wiener.<\/p>\n\n\n\n Poursuivant cette ligne de recherche en 1942, et situ\u00e9s dans le m\u00eame cadre, la Fondation Macy organise sa premi\u00e8re conf\u00e9rence sur le th\u00e8me de “l’inhibition c\u00e9r\u00e9brale”, li\u00e9e aux recherches de Rosemblueth.<\/p>\n\n\n\n En 1943, le journal “Philosophy of Science” publie un article de cette rencontre: “Behavior, purpose and teleology”, \u00e9crit par Wiener, Rosenblueth et Bigdelow, qui pose les bases d’une nouvelle voie scientifique. Ils proposent une approche compartimentale des ph\u00e9nom\u00e8nes et r\u00e9examinent la question de la t\u00e9l\u00e9ologie.<\/p>\n\n\n\n Cette approche compartimentale ne cherche pas \u00e0 analyser l’organisation interne des entit\u00e9s qu’elle \u00e9tudie, leur structure ou leurs propri\u00e9t\u00e9s, mais vise \u00e0 examiner uniquement le comportement observable, les relations, les sorties par rapport aux entr\u00e9es, sans sp\u00e9culer sur les caract\u00e9ristiques internes de l’entit\u00e9 qu’elle consid\u00e8re comme une “bo\u00eete noire”. Ces scientifiques pr\u00e9sentent un point de vue commun en affirmant que le concept de “r\u00e9troaction” est la cl\u00e9 pour expliquer tout comportement intentionnel.<\/p>\n\n\n\n En 1946, la Fondation Macy reprend les rencontres interrompues par la Seconde Guerre mondiale, qui aboutissent finalement \u00e0 une science du contr\u00f4le: la cybern\u00e9tique. La premi\u00e8re rencontre a \u00e9t\u00e9 intitul\u00e9e “M\u00e9canismes t\u00e9l\u00e9ologiques et syst\u00e8mes causaux circulaires”. \u00c0 la suite de ces rencontres, en 1948, Wiener publie son ouvrage “Cybernetics”, o\u00f9 il synth\u00e9tise les recherches et les r\u00e9sultats des premi\u00e8res conf\u00e9rences Macy.<\/p>\n\n\n\n \u00c0 partir de ce moment-l\u00e0, le terme “cybern\u00e9tique” s’impose \u00e0 tous comme un symbole de leurs recherches communes, et les participants d\u00e9cident d’adopter ce nom pour les trois conf\u00e9rences Macy suivantes. Ce groupe de scientifiques partageait l’impression de participer \u00e0 un \u00e9v\u00e9nement historique: la cr\u00e9ation d’un “nouveau cadre conceptuel de r\u00e9f\u00e9rence pour la recherche scientifique dans les sciences de la vie”.<\/p>\n\n\n\n L’intention manifeste du mouvement cybern\u00e9tique \u00e9tait de cr\u00e9er une science de l’esprit, ouvrant la voie \u00e0 une \u00e9tape suivante: l’hypoth\u00e8se cognitiviste qui configure un deuxi\u00e8me moment dans le d\u00e9veloppement historique des sciences du savoir.<\/p>\n\n\n\n L’intuition centrale du cognitivisme est que l’intelligence, y compris l’intelligence humaine, ressemble tellement \u00e0 l’informatique que la cognition peut \u00eatre d\u00e9finie comme des calculs de repr\u00e9sentations symboliques. L’argument cognitiviste est que le comportement intelligent suppose la capacit\u00e9 de repr\u00e9senter le monde d’une certaine mani\u00e8re. Cette intuition montre que du point de vue de la dimension ontologique des paradigmes, cette phase du d\u00e9veloppement de ces sciences suppose l’existence d’un monde ind\u00e9pendant de l’observateur.<\/p>\n\n\n\n C’est sur ce chemin explicatif et dans cette phase du d\u00e9veloppement des sciences du savoir que se d\u00e9veloppe le projet d’intelligence artificielle. Comme le reconna\u00eet le biologiste cellulaire Francisco Varela, “la phase cybern\u00e9tique des sciences cognitives (1940-1956) a produit une vari\u00e9t\u00e9 \u00e9tonnante de r\u00e9sultats concrets, en plus d’une influence durable”. Il mentionne certains r\u00e9sultats de cette phase: l’invention des machines de traitement de l’information, base de l’intelligence artificielle ; l’utilisation de la logique math\u00e9matique pour comprendre le fonctionnement du syst\u00e8me nerveux ; l’\u00e9tablissement de la m\u00e9tadiscipline de la th\u00e9orie des syst\u00e8mes, qui a laiss\u00e9 une empreinte dans de nombreuses branches de la science, comme l’ing\u00e9nierie, la biologie, les sciences sociales et dans des disciplines telles que l’\u00e9conomie avec la th\u00e9orie des jeux et dans l’administration des entreprises.<\/p>\n\n\n\n La r\u00e9ponse \u00e0 l’avertissement lanc\u00e9 par les politiciens cit\u00e9s au d\u00e9but de cet article r\u00e9side dans la m\u00e9connaissance du fait que l’arriv\u00e9e de cette puissante avanc\u00e9e de l’informatique comme technique cybern\u00e9tique entra\u00eene une ambigu\u00eft\u00e9 risqu\u00e9e, dont la source est qu’elle est le r\u00e9sultat de la premi\u00e8re r\u00e9volution des sciences cognitives.<\/p>\n\n\n\n Avant d’expliquer en quoi consiste la deuxi\u00e8me r\u00e9volution des sciences cognitives, afin d’\u00e9viter l’ambigu\u00eft\u00e9 qui entoure souvent l’intelligence artificielle, il est n\u00e9cessaire de se pencher un peu plus sur ce que signifie le concept d’information.<\/p>\n\n\n\n Dans l’un de ses derniers \u00e9crits sur la crise de la narration dans le monde post-industriel, le philosophe Byung-Chul Han affirme que “l’information manque de fermet\u00e9 ontologique”. Citant le sociologue Niklas Luhmann, il soutient que la cosmologie de l’information “n’est pas celle de l’\u00eatre, mais celle de la contingence”. Selon cet auteur, l’information est additive et cumulative et, par cons\u00e9quent, ne transmet pas de sens. L’\u00e9tape suivante est donc la n\u00e9cessit\u00e9 d’adopter une position \u00e9pist\u00e9mologique. \u00c9pist\u00e9mologiquement, le sujet de l’information fonctionne comme un syst\u00e8me ouvert qui se con\u00e7oit en articulant des processus d’entr\u00e9es et de sorties. En revanche, le sujet de la connaissance est un sujet qui assume la cl\u00f4ture op\u00e9rationnelle de son syst\u00e8me pour acc\u00e9der \u00e0 un monde ind\u00e9pendant de son exp\u00e9rience, l’emp\u00eachant d’avoir une relation d’instruction avec son environnement et l’obligeant \u00e0 construire ses propres significations.<\/p>\n\n\n\n C’est un point de basculement qui place l’intelligence artificielle. Cherchons-nous de l’information ou cherchons-nous de la connaissance ? Dans le premier cas, il s’agit d’un puissant outil technique, dans le second, cela peut \u00eatre une intervention perturbatrice dans notre qu\u00eate. Ce qu’il faut reconna\u00eetre, c’est que nous naviguons constamment entre les deux chemins.<\/p>\n\n\n\n Je tiens \u00e0 souligner que cette distinction est d’une importance capitale en sciences sociales, par exemple lors de l’exercice d’une pratique p\u00e9dagogique. Le risque que nous signalons avec l’intelligence artificielle est qu’elle peut imperceptiblement \u00e9liminer dans la pratique ces deux aspects du d\u00e9veloppement de la pens\u00e9e scientifique, parce que celui-ci suppose deux conceptions distinctes du sujet apprenant. Il est diff\u00e9rent de faire de la p\u00e9dagogie en supposant que le sujet connaissant apprend comme un processeur d’information, que de supposer et de reconna\u00eetre que ce sont ses exp\u00e9riences, \u00e0 partir desquelles il apprend. Cela implique que ce sont nos “captas”, notre mani\u00e8re de percevoir le monde, qui est la source de notre connaissance, et qu’elles ne sont pas simplement des “bits d’information” ou des donn\u00e9es que nous traitons. L’IA n’est rien d’autre qu’une technique \u00e9labor\u00e9e d’accumulation, de coordination et de traitement des donn\u00e9es. En ce sens, elle peut aider et am\u00e9liorer les performances du cerveau humain dans cette partie du processus de connaissance, mais elle ne peut pas accomplir le reste des op\u00e9rations que celui-ci d\u00e9veloppe pour g\u00e9n\u00e9rer des connaissances.<\/p>\n\n\n\n Ronald Laing, cit\u00e9 par Spencer Brown, affirme qu’en toute honn\u00eatet\u00e9, “ce que la science empirique appelle <donn\u00e9es> devrait \u00eatre appel\u00e9 des captas… car ils sont s\u00e9lectionn\u00e9s arbitrairement par la nature de l’hypoth\u00e8se d\u00e9j\u00e0 form\u00e9e…” Il fait r\u00e9f\u00e9rence aux “Data” comme \u00e9tant ce qui est donn\u00e9 et aux “Capta” comme ce qui est capt\u00e9.<\/p>\n\n\n\n Du domaine de la biologie biocybern\u00e9tique, Francisco Varela remet en question l’id\u00e9e r\u00e9pandue du concept d’information pour expliquer la structure de la connaissance, soutenant que “l’on n’a pas besoin de s’appuyer sur un ordre de choses pr\u00e9existant”, puisque le pivot de celle-ci est pr\u00e9cis\u00e9ment “sa capacit\u00e9 \u00e0 expliquer la signification et la r\u00e9gularit\u00e9”. Ainsi, l’information ne doit pas appara\u00eetre comme un ordre intrins\u00e8que mais comme un ordre \u00e9mergent et d\u00e9riv\u00e9 des activit\u00e9s cognitives elles-m\u00eames.<\/p>\n\n\n\n Cette perspective des biologistes biocybern\u00e9tiques marque le d\u00e9but d’un changement paradigmatique qui ouvre la voie \u00e0 une deuxi\u00e8me r\u00e9volution des sciences cognitives. L’intelligence artificielle ne fait pas partie de ce processus, car celui-ci constitue une troisi\u00e8me \u00e9tape du d\u00e9veloppement des sciences cognitives (1958), qui se pr\u00e9sente justement comme une alternative \u00e0 l’orientation symbolique sous-jacente \u00e0 l’IA. Selon ces biologistes, cette nouvelle approche met l’accent sur l’\u00e9mergence et l’auto-organisation, c’est-\u00e0-dire sur le connexionnisme, l’association et la dynamique des r\u00e9seaux.<\/p>\n\n\n\n \u00c0 cet \u00e9gard, Varela soutient que “la th\u00e8se que je voudrais avancer dans ce travail est la suivante: il existe des indications claires que, dans l’ensemble des sciences traitant de la connaissance et de la cognition – les sciences cognitives -, on prend lentement conscience que les choses ont \u00e9t\u00e9 pos\u00e9es \u00e0 l’envers, et on a commenc\u00e9 un virage paradigmatique ou \u00e9pist\u00e9mique radical. Le c\u0153ur de cette vision \u00e9mergente est la conviction que les v\u00e9ritables unit\u00e9s de connaissance sont d’une nature \u00e9minemment concr\u00e8te, incarn\u00e9e, incorpor\u00e9e, v\u00e9cue\u201d.<\/p>\n\n\n\n Un peu d’histoire de la r\u00e9volution cognitive li\u00e9e \u00e0 la cybern\u00e9tique. Un deuxi\u00e8me moment<\/strong><\/p>\n\n\n\n L’\u00e9mergence de cette nouvelle approche, ax\u00e9e sur l’\u00e9mergence et l’auto-organisation des processus de connaissance, donnant lieu \u00e0 un deuxi\u00e8me moment dans le d\u00e9veloppement des sciences cognitives, trouve ses origines dans les recherches men\u00e9es par le biologiste am\u00e9ricain Roger Sperry en 1943. Ce biologiste a r\u00e9alis\u00e9 une exp\u00e9rience cruciale avec une salamandre, cherchant \u00e0 expliquer le fonctionnement diff\u00e9rent de nos deux h\u00e9misph\u00e8res c\u00e9r\u00e9braux. Ces recherches l’ont conduit \u00e0 recevoir le prix Nobel en 1981. En utilisant la plasticit\u00e9 organique de cette urod\u00e8le, Sperry a tourn\u00e9 l’un de ses yeux de 180 degr\u00e9s et a observ\u00e9 que, une fois retourn\u00e9 dans son orbite oculaire, la salamandre ne corrigeait pas son objectif pr\u00e9cis de capturer sa proie d’insectes. Ce que montre l’exp\u00e9rience, c’est que la question de savoir si elle corrige son objectif est aveugle au fait que l’acte de capturer des insectes n’est pas un acte de viser cet objet, mais plut\u00f4t de faire une corr\u00e9lation interne.<\/p>\n\n\n\n Dix-sept ans plus tard, des scientifiques du Laboratoire de recherche \u00e9lectronique et du D\u00e9partement de biologie du Massachusetts Institute of Technology, MIT, ont publi\u00e9 une recherche pour laquelle ils ont \u00e9t\u00e9 propos\u00e9s pour le prix Nobel de sciences. Parmi ces chercheurs figurait le biologiste chilien Humberto Maturana, aux c\u00f4t\u00e9s de Jerome Lettvin, Warren McCullog et Walter Pitt.<\/p>\n\n\n\n La recherche a \u00e9t\u00e9 intitul\u00e9e “Ce que l’\u0153il de la grenouille dit au cerveau de la grenouille” et a \u00e9tudi\u00e9 les processus internes de coordination sensorimotrice, confirmant les d\u00e9couvertes de Sperry et montrant qu’elles d\u00e9pendent de la structure de chaque sujet. Sur la base de ces d\u00e9veloppements, Humberto Maturana, avec Francisco Varela, a poursuivi ses recherches qui les ont amen\u00e9s \u00e0 observer le fonctionnement autonome des \u00eatres vivants dans leurs processus cellulaires, qu’ils ont appel\u00e9s autopo\u00ef\u00e8se.<\/p>\n\n\n\n Le r\u00e9sultat de ces recherches a \u00e9t\u00e9 publi\u00e9 en 1973 dans un texte au titre suggestif: “Des machines aux \u00eatres vivants”. La diff\u00e9rence entre une machine qui traite l’information et un \u00eatre vivant, selon cette recherche, est qu’elle remet en question la conception dominante bas\u00e9e sur la m\u00e9taphore computationnelle, o\u00f9 l’esprit est consid\u00e9r\u00e9 comme le logiciel et le cerveau et le corps comme le mat\u00e9riel. En r\u00e9sum\u00e9, les processus sensorimoteurs – perception et action – sont fondamentalement indissociables dans la cognition v\u00e9cue et ne sont pas simplement li\u00e9s de mani\u00e8re contingente comme entr\u00e9e\/sortie.<\/p>\n\n\n\n Dans cette perspective, l’intelligence artificielle peut \u00eatre un outil puissant pour soutenir les processus de connaissance, mais elle ne peut pas remplacer les processus ex\u00e9cut\u00e9s par les sujets qui op\u00e8rent de mani\u00e8re autonome par rapport \u00e0 l’environnement et avec une fermeture op\u00e9rationnelle dans leur syst\u00e8me nerveux. Ici r\u00e9side la diff\u00e9rence entre les machines et les \u00eatres vivants. \u00c0 mon avis, cette confusion repr\u00e9sente l’un des plus grands dangers pos\u00e9s par la technologie de l’intelligence artificielle.<\/p>\n\n\n\n R\u00e9f\u00e9rences<\/strong>:<\/p>\n\n\n\n Boric G. 2023, Discurso 78 per\u00edodo de Sesiones Asamblea de Naciones Unidas. htts:\/ www.un.org<\/p>\n\n\n\n Chul Han B., 2023, \u201cLa crisis de la narraci\u00f3n\u201d, Ed. Herder, Barcelona<\/p>\n\n\n\n Lagos R., 2023, Inteligencia artificial y la urgencia de la pol\u00edtica, www.latercera.com columna 30 de Septiembre 2023<\/p>\n\n\n\n Leiva C., J., 2020, \u201cDe la pedagog\u00eda del oprimido a la del suprimido\u201d, Primera Edici\u00f3n, Santiago de Chile, Editorial ALTHAEA<\/p>\n\n\n\n Lettvin, J. https:\/\/es.wikipedia.org\/wiki\/Jerome_Lettvin<\/p>\n\n\n\n Maturana H. y Varela F., 1973,\u201dDe m\u00e1quinas y seres vivos\u201d. Santiago, Ed. Universitaria<\/p>\n\n\n\n Spencer-Brown, G., 1973, \u201cLaws of form\u201d, Nueva York, Bantam<\/p>\n\n\n\n Sperry R.W. \u201cTe problema of central nervous reorganization alternervere generation and muscletransposition\u201d The Quarterl y Review of Biology Vol. 20, No. 4 (Dec., 1945),<\/p>\n\n\n\n Varela F., 1996 , \u201cConocer Las ciencias cognitivas: tendencias y perspectivas\u201d Ed. Gedisa Barcelona<\/p>\n\n\n\n Varela, F., 2000,\u201dEl fen\u00f3meno de la vida\u201d Dolmen Ediciones, Chile<\/p>\n","protected":false},"excerpt":{"rendered":" Jorge Leiva Cabanillas. Chile Resumen En el presente trabajo se plantean algunas consideraciones en torno a la inteligencia artificial, para lo cual se distinguen dos momentos o revoluciones en la historia del desarrollo de las ciencias cognitivas desde la cibern\u00e9tica, situando el origen de la IA en el espacio de la primera revoluci\u00f3n cognitiva. El […]<\/p>\n","protected":false},"author":2,"featured_media":1036,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_et_pb_use_builder":"off","_et_pb_old_content":"","_et_gb_content_width":"","footnotes":""},"categories":[267,32],"tags":[224,183],"class_list":["post-1035","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-boletin-no-113","category-voces-de-la-membresia","tag-inteligencia-artificial","tag-jorge-leiva-cabanillas","et-has-post-format-content","et_post_format-et-post-format-standard"],"_links":{"self":[{"href":"https:\/\/bulletin.sipsych.org\/index.php\/wp-json\/wp\/v2\/posts\/1035","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/bulletin.sipsych.org\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/bulletin.sipsych.org\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/bulletin.sipsych.org\/index.php\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/bulletin.sipsych.org\/index.php\/wp-json\/wp\/v2\/comments?post=1035"}],"version-history":[{"count":1,"href":"https:\/\/bulletin.sipsych.org\/index.php\/wp-json\/wp\/v2\/posts\/1035\/revisions"}],"predecessor-version":[{"id":1037,"href":"https:\/\/bulletin.sipsych.org\/index.php\/wp-json\/wp\/v2\/posts\/1035\/revisions\/1037"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/bulletin.sipsych.org\/index.php\/wp-json\/wp\/v2\/media\/1036"}],"wp:attachment":[{"href":"https:\/\/bulletin.sipsych.org\/index.php\/wp-json\/wp\/v2\/media?parent=1035"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/bulletin.sipsych.org\/index.php\/wp-json\/wp\/v2\/categories?post=1035"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/bulletin.sipsych.org\/index.php\/wp-json\/wp\/v2\/tags?post=1035"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}
\n\n\n\n
\n\n\n\n
\n\n\n\n