Source: https://www.slideshare.net/joelcite/psicologia-cognitiva-ensayo-sobre-un-paradigma
Timestamp: 2018-01-22 21:24:04+00:00

Document:
Psicologia cognitiva ensayo sobre un paradigma
Ensayo sobre la segunda parte del l... by José Falconi 599 views
Ensayo Psicología y Sociología by Charly Crazzy 989 views
Psicologia resumen by Luis Calderon Bar... 21298 views
Ensayo de psicologia by Nalle Salazar 10713 views
Ensayo de Sociología by Leo Vazquez Jaimes 39899 views
Ejemplo de Ensayo by Laura Espbath 61570 views
1. Anuario de Psicologia 1998, vol. 29, no 2,21-44 O 1998, Facultat de Psicologia Universitat de Barcelona La psicología cognitiva: ensayo sobre un paradigma en transformación Manuel de Vega Universidad de La Laguna El presente ensayo explora el estado actual de la psicología cognitiva cuando nos aproximamos a un nuevo siglo. En primer lugar, analiza 10s fundamentos del paradigma simbólico computacional, que reduce la mente a un sistema de procesamiento de la infomzación análogo a una ma'quina de Turing o a un ordenador. El paradigma S-C, sin embargo, tiene limitaciones importantes al tratar con la experiencia subjetiva (conciencia) y las caracten'sticas corpóreas del conocimiento (e.g., las emociones). En segundo lugar, se describe el conexionismo como un nuevo paradigma emergente que, superando la metáfora del ordenador, se asientafirmemente en la metdfora del cerebro; ademús, aporta una nueva noción de computación como un procesamiento distribuidoy paralelo. En tercer lugar, la principal contribución de las neurociencias es proporcionar nuevas medidas mcis precisas de la actividad cerebral durante las tareas cognitivas mediante técnicas de neuroimagen, ERP y el estudio de pacientes con daño cerebral. Las ventajas e inconvenientes del conexionismo y de las neurociencias se revisan a continuacibn. Finalmente, el articulopropone un retopara la siguiente centuria: el estudio de las representaciones de situaciones y episodios, que no puede reducirse al estudio de la organizaci6n de la crmemoria semúntica)).El desarrollo de este tema no sólo mejoraría nuestro entendimiento de cómo las personas codzjlcan las situaciones cotidianas, sino también podría tener consecuencias para el desarrollo de mhuinas inteliaentes. ~dabrasclave: simbólico" computacional, conexionismo, neurociencias, conciencia, emociones, modelos de situación, inteligencia artificial. This essay explores the current state of Cognitive Psychology ut the verge of a new century. First, it analyzes thefoundations of the symboliccomputational paradigm (S-C), which reduces the mind to un infomzation Correspondencia:Departamento de Psicologia Cognitiva, Facultad de Psicologia, Universidad de La Laguna. Campus de Guajara. 38200 Santa Cruz de Tenerife. e-mail: mdevega@ull.es.
2. 22 M.de Vega processing system, like a Turing machine or a computer. The S-C paradigm, however, has serious shortcomings in dealing with subjective experience (consciousness) and embodied features of cognition (e.g., emotions). Secondly, connectionism is described as a new emergent paradigm which overcomes the computer metaphor and strongly relies on the brain metaphor; in addition, it involves a new notion of computation as a parallel distributed processes. Thirdly, the main contribution of neuroscience is the new and more accurate measures of brain activity during cognitive tasks by rneans of neuroimaging, ERP techniques, and brain damage case studies. The advantages and shortcomings of connectionism and neuroscience are briejly considered. Finally, the paperproposes a challengefor the next century: the study of situation and episodic representation, which cannot be reduced to ccsemantic memoryw organization. The development of this subject not only would improvpe comprehension of how people our encode and update everyday situations, but also would have technological consequencesfor developing intelligent machines. Key words: Symbolic-computational paradigm, connectionism, neurosciences, consciousness, emotiojns, situation models, artificial intelligence. Hace unos 30 años se estrenó una ~pelicula titulada 2001: Una odisea en el espacio, sobre un guión de Arthur Clarkt: y dirigida por Stanley Kubrick. Se trataba de una fantasia de ciencia ficción, pero era una fantasia razonable, pues el guionista y el director se preocuparon dt: documentarse entre 10s expertos de su época acerca de la tecnologia que cabria esperar en el año 2001. En la pelicula aparecia un personaje llamado HAL que era ni rnás ni menos que un ordenador avanzado con capacidades cognitivas prácticamente iguales a las humanas. El maravilloso HAL era capaz de un uso toltalmente referencial del lenguaje (v.g., podia comentar las noticias de la televi~~ión 10s astronautas), jugaba al ajecon drez, tenia metas e intenciones propias (de hecho intenciones malévolas), tenia las autoconciencia y emociones y hasta era capaz de c<leer>> palabras en 10s labios. Curiosamente, en la ficción de la pelicula, HAL <<habia construido>> sido en 1997 de modo que es interesante comprobar hasta qué punto se han cumplido las predicciones en tecnologia computacional. De hecho, hace unos meses ha sido publicado un libro exactamente con esta intención (Stork, 1997). Un grupo de expertos entre 10s que se encuentran algunos conocidos cientificos cognitivos como Minsky, Dennett, Schank, Wilkins, etc., participaron en este libl'o para reflexionar sobre el estado actual de la Inteligencia Artificial (IA). El reSultado de este análisis es algo decepcionante: dispionemos de programas que juegan muy que bien al ajedrez, pero las demás capacidades cognitivas de HAL, 10 hacian tan <<humana>> en la pelicula, nos parecen hoy tan lejanas de nuestras posibilidades tecnológicas como parecian estar10 en 10s años 60. Incluso más lejanas, ya que en 10s años 60 10s expertos consultadori por Clarke y Kubrick eran probablemente mucho más optimistas sobre las posibilidades inmediatas de construir un ordenador con capacidades humanas que 10s expertos actuales.
3. La psicologia cognitiva: ensayo sobre un paradigma en transformación 23 En esa misma época, en 10s años 60, el clima intelectual que reinaba en la naciente psicologia cognitiva estaba próximo al optimismo tecnológico de 10s técnicos de IA. El desarrollo de 10s ordenadores digitales, la nueva lingüística generativa y la crisis profunda del conductismo, entre otros factores, habian propiciado la irrupción de un prometedor paradigma cognitivo; y el optimismo era patente. Surgió un programa de investigación especifico para la psicologia cognitiva: 10s temas clásicos de la memoria, la percepción o la resolución de problemas recibian el impulso de ideas y métodos nuevos; por otra parte, algunos temas hasta entonces prácticamente olvidados se mostraban como territorios nuevos y excitantes al alcance de la indagación científica: la atención, las imágenes mentales, el razonamiento, 10s procesos del lenguaje, etc. Además, habia un proel grama cognitivo c<máximo>>: desarrollo de una ciencia cognitiva general que englobaria tanto 10s procesos computacionales en 10s sistemas biológicos (v.g., el cerebro) como en 10s sistemas artificiales (10s ordenadores). Las funciones cognitivas de la mente humana y las funciones computacionales de 10s ordenadores no serían substancialmente diferentes, según este análisis, sino que ambas podrían explicarse desarrollando una única teoria universal del cómputo. Este programa máximo de la ciencia cognitiva es el que hacia que el HAL de 2001 fuese algo más que una fantasia de escritores y cineastas; era -en todo caso- una fantasia de científicos cognitivos. Tres décadas después jcuál es la situación de la psicologia cognitiva? Sin duda aquel empuje inicial mantuvo su continuidad en el tiempo. La segunda mitad del siglo XX ha estado marcada por un dominio en psicologia de 10s planteamientos cognitivistas. La buena salud de la psicologia cognitiva se aprecia en multitud de indices externos. Las publicaciones más prestigiosas de la psicologia, como la revista Psychological Review o las Journal of Experimental Psychology incluyen frecuentemente artículos de carácter cognitivo. Existen muchas revistas especializadas en las que las etiquetas <<cognitivo>> o c<cogniciÓn>> aparecen en la portada. Otras publicaciones especializadas, aun cuando no incluyan estas etiquetas, se refieren claramente a procesos cognitivos tales como la atención, la memoria, el lenguaje, la percepción, el razonamiento, etc. Proliferan 10s congresos y sociedades internacionales sobre procesos cognitivos que periódicamente editan libros y revistas. Las universidades y centros de investigación mis importantes del mundo disponen de departamentos y laboratorios de psicologia o de ciencias cognitivas. Finalmente, incluso las investigacionesrealizadas en las demás disciplinas psicológicas como la psicologia clínica, la psicologia social, la psicologia evolutiva, la psicologia educativa o las neurociencias tienen frecuentemente un planteamiento <<cognitivo>>. jQué hay detrás de este aparente dominio del cognitivismo? ¿Se trata de una simple moda pasajera o, por el contrario, la psicologia es y ser6 necesariamente cognitiva? Conviene aclarar previamente qué entendemos por psicologia cognitiva. Una posibilidad es identificar la psicologia cognitiva (y en general las cientifico: aquél que surciencias cognitivas) con un determinado <<paradigma>> gió a finales de la década de 1950 gracias a algunos pioneros anglosajones como Donald Broadbent, George Miller o Noam Chomsky, y que se consolidó en las décadas siguientes. Esta visión restrictiva implica que la psicologia cognitiva
4. 24 M.de Vega asume un conjunt0 de prescripciones teóricas y metodológicas particulares que caracterizan a 10 que se ha denominada el <<paradigma simbólico-computaciorial>>. Otra posibilidad, sin embargo, es ampliar la noción de psicologia cognitiva a cualquier análisis de 10s procesos o funciones mentales, cualesquiera que sean las herramientas teóricas o metodológicas utilizadas. En este sentido amplio, la psicologia cognitiva abarca movimientos y escuelas diversas, no necesariamente anglosajones. Asi, por ejemplo, la psicologia genética de Jean Piaget, el enfoque socio-histórico de Lev Vygotski o 10s estudios factoriales de la inteligencia pueden considerarse con todo rigor como análisis cognitivos. Más aún, el cognitivismo es incluso anterior a la psicologia científica, pues algunos filósofos clásicos se habian interesado vivarnente por las funciones mentales. Mencionemos, por ejemplo, la temática cognitiva de Las categorías de Aristóteles, La crítica de la razón pura de Kant, o La investigación sobre el conocimiento humano de Hume. Por otra parte, una noción amplia de la psicologia cognitiva incorporar6 también cualquier nuevo enfoque o paradigma que pueda desarrollarse en el futuro con la condición de que estudie 10s procesos o funciones mentales. Si asumimos la noción restringida de la psicologia cognitiva es fácil prever computacional>> del <<procesarniento informao de que el paradigma <<simbÓlico ciÓn>> podría tratarse de un producto académico perecedero y tendría un final histórico tarde o temprano. De hecho, hay ya síntomas inequivocos de que el paradigma cognitivo clásico viene arrastrando una crisis en 10s últimos aiios, como veremos en estas páginas, y cabe la posibilidad de que esta crisis sea profunda y definitiva. Sin embargo, tal como sugirió Kuhn, un paradigma no se extingue realmente a no ser que surja un paradigma alternativo nuevo o <<revolucionaria>> que 10 reemplace. Contemplando la psicologia cognitiva de finales de siglo, se observan algunas novedades que quizá se puedan calificar de nuevos paradigmas. En primer lugar, el conexionismo desarrollado en la Última década, nació con una cierta vocación revolucionaria, atacando dialécticamente al viejo enfoque simbólico-computacional. En segundo lugar, las neurociencias que intentan reformular la investigación de 10s procesos cognitivos buscando sus correlatos neuronales, y que han cobrado un gran impulso gracias a 10s nuevos métodos desarrollados recientemente. Es pronto para saber si el conexionismo o las neurociencias van a substituir a la psicologia cognitiva clásica, o son desarrollos complementarios y compatibles con ella. Aunque 10 primer0 fuese cierto, la eventual extinción del paradigma simbólico-computacional no significaria que éste haya sido una <<moda pasajerasy que debamos pasar la página sin más. Algunos de 10s logros del paradigma simbólico-computacionali persistirán en 10s paradigmas emergentes que quizá dominen el siglo XXI. Los principales temas y problemas de investigación, algunos de 10s métodos empíricos y formales desarrollados, y el optimismo epistemológico acerca de la posibilidad del estudio científic0 de 10s procesos mentales son aportaciones extraordinarias, con un valor acumulativo, que debemos a aquellos pioneros del procesamiento de información. Si asumimos una noción amplia de psicologia cognitiva, por otra parte, el futuro es sumamente prometedor para el cognitivismo. El estudio de las funciones de la memoria, la atención, el lenguaje o la conciencia, por poner algunos ejemplos, serán temas centrales de la ciencia, independientemente del para-
5. La psicologia cagnitiva: ensayo sobre un paradigma en transfonnaci6n 25 digma dominante. Este tipo de cuestiones tienen interés intrínsec0 y no son simples puules académicos del momento. Del mismo modo que el origen del universo, la estructura de la materia, o el genoma humano no pueden considerarse modas pasajeras, sino temas básicos de la investigación científica. En estas páginas revisaré brevemente 10s problemas y aportaciones de 10s paradigmas cognitivos, el clásico y 10s nuevos. También haré una valoración del estado actual de 10s temas de investigación, destacando tanto aquellos en 10s que se ha progresado más como 10s que apenas han avanzado. El paradigma simb6lico~computacional (S-C) En 1950 el matemiitico Alan Turing describió una máquina ideal capaz de realizar operaciones muy simples sobre símbolos discretos, tales como imprimir, borrar o leer un símbolo, adelantar un espacio, etc. Esta máquina formal tendría un poder de cómputo prácticamente ilimitado de modo que, tal como sugirió Turing, podría incluso imitar el comportamiento humano inteligente (v.g., hablar y a un responder a preguntas) hasta el punto de <<engañar>> observador que s610 tuviese acceso a sus respuestas. La creación de 10s ordenadores digitales, a la cual contribuyó el propio Turing, hizo que la noción de cómputo universal pasara de ser la simple ilustración de una abstracción matemática a ser una realidad tecnológica. Los ordenadores no son máquinas de Turing pero son funcionalmente equivalentes: pueden resolver cualquier problema computacional a condición de que se sea capaz de reducirlo a un conjunt0 finito de operaciones o instrucciones. Un paso más 10 dieron 10s psicólogos: no s610 10s ordenadores son equivalentes a la máquina universal de Turing sino tarnbién el cerebro. Surgió así el paradigma simbólico-computacional como una extensión natural de las tecnologías computacionales, Asi, Fodor, Minsky, Simon o Pylyshyn han defendido explícitamente la idea de que 10 que llamamos <<menten <<funciones o mentales>> rese duce a la aplicación de cómputos a representaciones simbólicas. El paradigma simbólico-computacional (S-C) había nacido y las posibilidades que se abrían a la nueva psicologia cognitiva eran fascinantes. Por primera vez 10s procesos mentales podrían estudiarse con un nivel de explicación mecanicista: el del procesamiento de información. Los símbolos, las reglas sintácticas y 10s cómputos que subyacen a 10s procesos mentales son entidades perfectamente mensurables, al igual que las nociones homólogas que manejaban 10s técnicos en ordenadores. Pero la psicologia cognitiva tuvo que pagar un precio: debía asumir una serie de restricciones propias de la noción de cómputo implícita en la tecnologia computacional (y por ende en la propia máquina de Turing). Veamos algunas de ellas. El lenguaje de Ep mente La materia prima del procesamiento de información son las representaciones mentales en forma de expresiones simbólicas en el lenguaje de la mente
6. 26 M.do Vega o mentalés, tal como 10 denominó Jerrjr Fodor. El mentalés es un lenguaje universal (no corresponde a ningun idioma particular) y amodal (válido para representar información verbal, visoespacial o de cualquier otro origen). Las mejores versiones del mentalés se desarrollaron empleando el formalismo lógico de las proposiciones. Las proposiciones,,en efecto, constituyen un formato ideal para el paradigma S-C, pues son expresiones formales, compuestas de símbolos discretos (un vocabulario), sujetos a unas reglas de composición (una sintaxis). El atractivo psicológico de las proposiciones era evidente: representan el significado abstracto y no las características superficiales de la información, pueden representar cualquier modalidad de información, tienen una estructura interna que permite reflejar la organización de la memoria, son <<computables>>por y tanto se pueden construir programas de simulación que operan con ellas, etc. El lenguaje proposicional se complementó con formalismos <<procedimentales>> que reducían 10s cómputos cognitivos a conjuntos de reglas <<si entonces>>. ... Mediante estas reglas o <<sistemas producciÓn>> posible imitar algunas cade era pacidades humanas de resolución de problemas, por ejemplo, se pudo construir programas de ordenador capaces de jugar al ajedrez o de resolver problemas criptoaritméticos. Sin embargo, casi inmediatamente surgieron problemas: nuestra intuición, pero también 10s datos experimentales, nos sugieren que algunas representaciones tienen un carácter analógico, es decir que son imágenes mentales. Podemos recordar o imaginarnos 10s lugares y trayectos de nuestra ciudad, e incluso hacer epaseos mentales,, para planificar nuestra ruta; podemos <<girar>> mentalmente un mueble sin necesidad de moverlo físicamente, con 10 cual ahorramos tiempo y energías; o bien podemos resolver de forma creativa problemas que requieren la simulación mental de estructuras visoespaciales dinámicas. Todo el10 se nos antoja una forma de representación continua y espacial algo diferente de un cómputo sintáctico sobre símbolos discretos y abstractos. No tiene nada de extraño que 10s defensores más radicales del núcleo duro del paradigma simbólicocomputacional hayan sido muy críticos con la noción de imagen mental, por su carácter amenazador para la ortodoxia. La metc5fora del ordenador La psicologia cognitiva nació, tal como hemos visto, con el desarrollo de 10s ordenadores y éstos han continuado siendo una guia teórica para 10s investigadores. La denominada c<metáforadel ordenador,, ha sido un heurístic0 de investigación fructífer~, inspirando 10s temas e hipótesis, ofreciendo un vocabulario teórico para interpretar 10s datos, y sirviendo como herramienta formal en la simulación de modelos. Con todo 10 positivo que esto es, conviene reflexionar acerca de una consecuencia de la metáfora del ordenador bastante obvia: Lafundamentación del paradigma S-C es tecnológica, no naturalista. La situación es un tanto extraña para una ciencia como la psicologia que se supone <<natural>>. como si 10s biólogos investigasen la célula inspirándose Es en las características del motor de explosión (10s dos transforman energia) y 01-
7. La psicologia cognitiva: ensayo sobre un paradigma en transfonnaci6n 27 vidándose de indagar sus múltiples funciones fisiológicas en el organisme vivo. Los ordenadores digitales son artefactes culturales de reciente invención, mientras que el cerebro y sus funciones cognitivas son el fruto de la evolución filogenética en nuestros antepasados homínidos. Por tanto, la arquitectura funcional de la cognición y las funciones cognitivas básicas no hay que entenderlas como programas de ordenador arbitrarios, sino como adaptaciones destinadas a resolver tipos de problemas propios de nuestro entorno ecológico e interpersonal. La desnaturalización de la psicologia cognitiva ha sido patente durante &os. La metáfora del ordenador y 10s planteamientos logicistas han inspirado las teorías psicológicas con frecuencia, como si la mente fuese un programa de ordenador arbitrario. Incluso asumiendo esta metáfora, cabe preguntarse ¿para qué sirve ese programa o programas de ordenador?, ¿con qué funciones ha sido cdiseñados? James Gibson, un psicólogo no cognitivo de la percepción, fue el primer0 en plantearse una cuestión fundamental: ¿Para qué sirve la percepción visual? Su respuesta: la visión constituye un canal para recoger las <<invarianzas>> informativas del medio que subyacen al cambiante flujo sensorial en nuestros receptores. Por ejemplo, vemos <<substancias>>, <<superficies>> y <<sucesos>> tieque nen un valor adaptativo para nosotros (aJS"0rdance). Compárese esta preocupación por conectar la visión con el mundo, con el análisis clásico de la visión como una suma de sensaciones elementales de colores, formas, tonos, bordes, movimientos, etc. Afortunadamente, ha habido dentro del propio paradigma cognitivo intentos de restablecer el anclaje naturalista de las funciones cognitivas. David Marr, otro psicólogo de la visión pero esta vez enclavado dentro del paradigma S-C, realizó un planteamiento conciliador: hay varios niveles de análisis en la ciencia cognitiva y todos son legítimos. Uno de ellos es estrictamente formal o algorítmico, en el que se puede seguir utilizando el vocabulario y conceptualización S-C (representaciones, símbolos, reglas, etc.); otro es el nivel de hardware propio de la neurociencia que trata de determinar el substrat0 neurológico de 10s algoritmos; finalmente, hay un nivel computacional (aunque el término es confuso y mejor sería decir <cecolÓgico>> como 10 denomina John R. Andero, que son, <<racional>>) corresponde a la descripción abstracta de las funciones del algoritmo respecto al entomo; en otras palabras su valor adaptativo. o de Intentar desarrollar una teoria <<computacional>><<adaptativa>> cada función básica puede ser un ejercicio extremadamente útil para no avanzar a ciegas, evitando líneas e hipótesis de investigación baldías. Así, por ejemplo, seguramente ser6 más fructifero tratar de entender el razonamiento humano preguntándose cómo y para qué razona la gente en situaciones pragmáticas en lugar de la cuestión logicista de si el razonamiento con silogismos formales se ajusta o no a una competencia lógica. También parece mis realista preguntarse para qué se usa la memoria en la vida real que basar nuestras teorías en estudios de aprendizaje de listas de palabras como se hizo inicialmente. Lo cierto es que la memoria se utiliza para recordar material verbal mucho más complejo que las listas verbales, por ejemplo, textos o conversaciones, pero también se usa de forma prospectiva para recordar planes e intenciones, y es la base del aprendizaje de destrezas que no son verbales en absoluto. Además, tal como sabemos hoy en dia
8. 28 M.de Vega la memoria no es necesariamente explicita o consciente. Por último, no s610 hay que valorar 10s módulos de procesamiento del lenguaje que realizan cómputos necesarios, sino que también habrá que explicar el uso del lenguaje en contextos pragmáticos y conversacionales para valorar, por ejemplo, funciones esenciales de la comunicación como la deixis (algunos elementos del discurso como 10s pronombres s610 adquieren significado e:n el contexto), las reglas implícitas de la comunicación entre interlocutores (v.g.,la valoración del conocimiento compartido y no compartida), etc. No estarnos planteando una mera revisión metodológica, y mucho menos una substitución de 10s métodos experimentalespor otros observacionales o hermenéuticos. Se trata más bien de un cambio de perspectiva teórica: deben seleccionarse tareas relevantes y representativas, parametrizarlas adecuadamente, y generar paradigmas experimentales bien controlados adecuados a 10s fenómenos seleccionados. El misticisme computacional La vertiente filosófica del paradigma S-C pretende haber resuelto de una vez por todas el problema del dualismo cartesiano. La mente humana, al igual que 10s ordenadores, tiene un componente fisico o hardware y un componente funcional o software. Pero la naturaleza física del hardware es irrelevante para comprender 10s procesos de cómputo. Asi, para entender la naturaleza computacional de una tarea que realiza un ordenador podemos desentendernos de la organización material del sistema y estudiar Únicamente la descripción del programa en términos de instrucciones, rutinas, etc. Es mis, podríamos construir fisicamente una máquina de Túring -que es bastante diferente de un ordenador digital- que ejecutase el mismo programa; o bien podríamos manipular un gran número de latas de cerveza cuya posición, de pie o tumbadas, representase 10s estados binarios 1 y O respectivamente; y el ordenador de latas también podría ejecutar el mismo programa. El cerebro sería otro sistema de cómputo cuyas peculiaridades biológicas no tendrían demasiada importancia; s610 el programa o 10s programas que ejecuta el cerebro serían dignos de interés. Este planteamiento funcionalista permitió un avance considerable de la psicologia cognitiva, ya que el análisis de la <<arquitectura funcional>> sistema no tuvo que esperar del cerebral>).Se podia tratar de desvelar cómo funa desentrañar la <<arquitectura ciona la memoria a corto plazo, por ejemplo, sin preocuparse de la circuitería cerebral responsable de ella. Una consecuencia inesperada de esta filosofia funcionalista fue la protecnológica: podría transferirse el contenido de mesa de una c<inmortalidad>> y al disco duro de un ordenanuestra memoria (abases de datos>> <<programas>>) dor (o su equivalente tecnológico del futuro) con 10 cual nuestra identidad continum'a indefinidamenteen su nueva residencia artificial. Podríamos crear asi <<hijos mentales>>, como propone Mamin Minsky, que trascenderían a nuestra tal existencia biológica. Esta fantasia, por peregrina que pudiera parecer, es una posibilidad teóriea que se deriva rigurosamente de las prernisas de computación
9. L psicología cognitiva: ensayo sobre un paradigma en transformacidn a 29 simbólica y de equivalencia funcional de 10s sistemas de cómputo. Si la mente no es mis que un programa informático entonces podrá transferirse a un ordenador o a un robot. Sin embargo, me inclino a pensar que este sueño -o pesadilla- emparentado con el mito de Prometeo o el de Frankestein, sea fruto más bien de nuestra ignorancia (o de la ignorancia de quienes 10 han planteado). Bastaria con poner en duda alguno de 10s dogmas en que se basa para que el misticismo tecnológico fuese inviable. En primer lugar, no está claro que nuestros procesos mentales se reduzcan, después de todo, a meros programas de cómputo aplicados a símbolos discretos. Hay aspectos de nuestros procesos mentales que exceden esta visión restringida. Ya hemos mencionado que algunos datos sugieren la existencia de representaciones analógicas pero, además, habría que mencionar el papel de las emociones en 10s procesos cognitivos, o el gran enigma de la naturaleza y funciones de la conciencia; nada de esto parece tener cabida en el marco dogmático del paradigma S-C. En segundo lugar, la estructura y organización de la base material del sistema podria tener un impacto enorme sobre la naturaleza de 10s cómputos. El cerebro es un sistema biológico basado en un conjunt0 inmenso de procesadores interconectados (las neuronas) que funcionan en paralelo y que se comunican bioquímicamente, mediante una serie de neurotrasmisores; el ordenador, por el contrario, es un sistema electrónico incomparablementemás senci110 que el cerebro que realiza cómputos de forma serial utilizando, generalmente, un Único microprocesador. Sin entrar en el papel modulador de 10s neurotrasmisores en la cognición, la estructura de procesamiento en paralelo del cerebro marca, sin duda, diferencias funcionales en relación a 10s ordenadores digitales que ejecutan secuencialmente un programa de software. Pretender que las funciones de un procesador paralelo y uno serial son las mismas es como asegurar que 10s procesos digestivos son 10 mismo en una bacteria y en una vaca, por el hecho de que ambas tienen funciones digestivas. Los nuevos avances en el conexionismo y la emergencia de ordenadores con múltiples procesadores en paralelo, nos están mostrando cómo estas nuevas arquitecturas de cómputo son funcionalmente muy diferentes de las de 10s ordenadores convencionales. Por último, el ordenador es un procesador de información precodificada. Opera a partir de series de símbolos suministrados por un operador humano; pero es una que máquina esencialmente <<solipsista>> no codifica o sintetiza información directamente a partir del entorno, ni actúa sobre éste. Por el contrario, el cerebro puede está <<corporeizado>>, sintetizar información por sí mismo, a partir de un entomo ecológico e interpersonal no simbólico y, además, gobierna la acción de nuestro cuerpo sobre dicho entorno. Estas diferencias parecen demasiado substanciales como para hacer viable por el momento la promesa de la inmortalidad tecnológica o, si se prefiere, del <<enlatado>> cognitivo. Las prohibiciones Una característica de 10s paradigmas cientificos es que no s610 propician la génesis de hipótesis en ciertos temas de investigación, sino que tarnbién prohi-
10. 30 M.de Vega ben ciertas hipótesis ylo temas de investigación. Asi, el conductismo negaba el interés cientifico e incluso, en ocasiones, la existencia de 10s procesos mentales. Las restricciones epistemológicas de este tipo también existen en el paradigma S-C. En algunos casos aparecen como una prohibición más o menos explícita, en persistentes o trivializaciones de ciertos fenómenos. otros son <colvidos>> de El paradigma S-C tiene una preferencia por 10s asistemas modulares>> procesamiento. La situación ideal para el paradigma seria que la naturaleza hubiese estructurado las funciones cognitjvas en <<mÓdulos>>Órganos mentales u bien separados, que realizasen funciones especializadas e independientes unos de otros. Esta arquitectura funcional modular es precisamente la que se propone para la percepción visual o el lenguaje. Asi, en el caso de la comprensión del lenguaje existiria un módulo <<fonolÓgico>> encargado del análisis y representación de 10s fonemas del habla (en el caso de la lectura seria un módulo ortográfíco-fonológico), un módulo <<lCxico>> responsable del reconocimiento de las palaseria bras, un módulo <<semántico>> activaria 10s significados de las palabras y un módulo <<sintáctico>> construiría una representación formal de las frases. Estos abajo arriba>> están <<eny módulos se asegura que operan secuencialmente <<de capsulades>>, de modo que cada uno de ellos realiza la tarea asignada sin tener en cuenta 10 que hacen 10s módulos superiores. La psicolingüistica ha tenido un gran éxito en su investigación del lenguaje a partir de esta concepción modular, pero hay que reconocer que, en la compirensión del lenguaje, el aparataje modular no lo es todo; tarde o temprano 10s módulos tienen que comunicarse con lo centrales>> procesamiento, responsables de la de que Fodor llama 10s <<sistemas construcción del significado del discurso. Pero estos sistemas centrales ya no son modulares, no están especializadolj en ninguna operación computacional concreta sino que son enormemente flexibles, globales y multifuncionales. Los sistemas centrales hacen un uso activo de nuestro conocimiento general del mundo, de nuestros recuerdos episódicos y biográñcos, de nuestras destrezas físicas y mentales, de nuestros estados emocionales y afectives, de nuestras metas e intenciones fugaces, etc. Además 10s sistemas centrales intervienen en la comprensión y producción del lenguaje, en la comprensión de situaciones, en el pensamiento y en la resolución de problemas, en la planificación y en la toma de decisiones, etc. La plácida y ordenada concepción modular y mecanicista no es aplicable a 10s sistemas centrales. La consecuencia es un pesimismo epistemológico: no es conveniente perder el tiempo estudiando algo que no entendemos, como por ejemplo el razonamiento o la. resolución de problemas. Fodor 10 expresa así: Cuanto más global (e.g., mis isotrópico) es un proceso cognitivo, menos 10 entiende nadie. Los procesos muy globales, como el razonamiento analógico, no se entienden en absolut0 (Fodor, 1983, lp. 107). O también la siguiente cita en la que, de paso, se observa el pesimismo de Fodor sobre la inteligencia artificial: Pienso que, desde luego, el razonamiento y la resolución de problemas son actividades computacionales, ya que la mente es, en cierto sentido, una computadora o,
11. La psicologfa cognitiva: ensayo sobre un paradigma en transformaci6n 31 si se quiere, una máquina de lenguaje del pensarniento. Pero me parece que no tenemos ni una pista acerca de cómo funciona a este respecto. Es un profundo misterio y, hasta que no 10 resolvamos, no vamos a tener máquinas inteligentes. Podremos tener máquinas perceptivas, máquinas que analicen oraciones o que puedan recuperar la forma visual de un objeto, pero no creo que vayamos a tener máquinas que piensen. La razón por la que no 10 creo es que, para abordar el problema, no van a valer estrategias fragmentarias por las que se enfoque de una manera mirs local de como aparenta; la razón es que hay algo que no entendemos. (en Garcia-Albea, 1991, p. 39). Zenon Pylyshyn, por su parte, utiliza de un modo un tanto particular la navaja de Occan en psicologia cognitiva: si una función cognitiva es <<penetrable>> a nuestro conocimiento del mundo, entonces no pertenece a la arquitectura funcional básica, Es decir, que si una determinada función cognitiva se ve influida por nuestras creencias, emociones, metas e intenciones, entonces hay que rechazarla como una entidad primitiva o teóricamente relevante. Cerremos 10s ojos por un momento e imaginemos una hoja de un árbol y una bola de plomo cayendo al suelo desde la misma altura. Es evidente en nuestra imagen mental que más la bola se <<desplaza>> deprisa siguiendo una trayectoria vertical y rectilínea, rnientras que la hoja <<planes>> en zigzag. Dicho de otro modo, nuestra imagen mental es penetrable a nuestro conocimiento intuitivo sobre el comportamiento fisico de 10s objetos. Por tanto, nos dir6 Pylyshyn, las imágenes mentales no son una buena noción para nuestras teorías cognitivas: no son modulares sino que se ven determinadas por 10s sistemas centrales de procesarniento. Fodor y Pylyshyn son coherentes con las restricciones del paradigma S-C y las llevan hasta las últimas consecuencias.Pero no olvidemos que la prohibición o aplazamiento sine die de algunos temas de estudio es un indicio de la incapacidad del paradigma, no una demostración de que carezcan de interés científico. A las dificultades del paradigma S-C para entender 10s procesos no-modulares hay que añadir sus dificultades para tratar 10s aspectos <<calientes>> y cualitativos de la cognición. En particular iqué hacer con las emociones y con la conciencia? Un modo tipico de enfrentarse a las emociones dentro del paradigma S-C es considerar que son irrelevantes para la cognición. Una teoria cognitiva simplemente debe tratar de 10s procesos computacionales y las emociones no son computables (aunque no todos estm'an de acuerdo con esta afirmación). En que cualquier caso, las emociones constituyen una especie de <<mido>> distorsiona o interfiere con 10s procesos cognitivos. Esta idea coincide, además, con algunas tradiciones educativas intelectualistas en la sociedad occidental: <<para pensar mejor hay que mantener la cabeza fría>> <<cuando emociones irrumy las pen hay que controlarlas>>. embargo, de nuevo la realidad no tiene por qué Sin coincidir ni con nuestras preferencias educativas, ni con nuestras restricciones paradigmáticas. Algunos investigadores han mostrado de modo fehaciente que las emociones no s610 no son vecinos indeseables de nuestros procesos cognitivos, sino que son componentes necesarios de la cognición. Por ejemplo, Antonio Damasio (1994) estudi6 minuciosamente a pacientes con lesiones cerebrales prefrontales que son incapaces de sentir las emociones habituales en
12. 32 M.de Vega contextos sociales. Estos pacientes tienen, por 10 demás, todas sus capacidades cognitivas intactas de modo que son un buen ejemplo de procesadores de <<cabeza fría>>, simples manipuladores racionales de simbolos sin las distorsiones de las emociones. El resultado de esta liberación de las emociones es, sin embargo, catastrófico para estas personas que se muestran incapaces de dirigir sus vidas y tomar decisiones en las situaciones cotidianas mis simples. Sus dificultades más notables tienen lugar, precisa,mente, en el tip0 de razonamientos en o <<algorítmica>> podria parecer que una estrategia exclusivamente <<racional>> suficiente e incluso deseable. En opinión de Damasio, las emociones establecen vínculos entre 10s procesos cognitivos y 10s estados somáticos, es decir, proporcionan una valoración corporal inmediata de 10s diversos estados cognitivos. De este modo las emociones que acom]?aÍian a la cognición proporcionan una impronta positiva o negativa inmediata, previa al desarrollo de cómputos detallados en términos de costes1beneficios o de una valoración de la coherencia 1Ógica de las acciones. En las situaciones de la vida real casi nunca tenemos datos completos o no tenemos tiempo suficie~nte para una toma de decisión <<algorítmica>>, modo que la guia emocional nos ayuda a cortar por 10 sano y elegir de alternativas o cursos de acción. Cuando elegimos carrera, o decidimos casarnos, o decidimos descomponer una tarea cornpleja en varias partes y atacar una por una, seguramente las emociones que sentimos (estados corporales agradables o desagradable) en cada punto de decisiólm son tan importantes como 10s cómputos algorítmicos. Los pacientes prefrontales a menudo entran en un bucle de consideraciones interminables para la decisión más sencilla (fijar la hora de una cita), precisamente porque se ven abocados a un proceso estrictarnente algoritmico de valoración de todas las alternativas posibles y 10s condicionantes posibles de esas altemativas. La conciencia es uno de 10s fenómenos humanos que despierta reacciones encontradas entre 10s cientificos. El debate sobre la conciencia se ha reavivado recientemente incluyendo entre sus filals no s610 psicólogos, sino neurocientificos, filósofos, biólogos e, incluso fisicos y matemáticos. Algunos creen que es un tema científicamente inalcanzable y, por tanto, parecen aplicar la máxima de 10 Otros tienden a Wittgenstein: <<De que no se puede hablar, es mejor callarse>>. mitificarla atribuyéndoleuna entidad física, de momento misteriosa, irreductible a procesos mecanicistas de cómputo. Así, Roger Penrose asegura que la conciencia reside en ciertos fenómenos cuánticos (desconocidos) que ocurren en 10s microtúbulos de las neuronas, o Christof Koch y Fracis Crick aseguran que la conciencia visual se deriva (aunque no sabemos cómo) de 10s disparos sincrónicos de las neuronas 40 veces por segun~do. Otros, en fin, la trivializan considerándola una característica emergente dt: 10s sistemas computacionales complejos, pero que no requiere ninguna explicación particular. En principio, un sistema de procesamiento artificial (v.g.,un sistema conexionista masivo) podria incorporar conciencia, en opinión de Churchland y Churchland. Se ha avanzado mucho en la obtención de correlatos funcionales y neuronales de la conciencia. Al menos sabemos que la conciencia est6 asociada a ciertos procesos cognitivos y no a otros. Está asociada al consumo de recursos cognitivos de la memoria operativa y de la atención, a 10s procesos controlados que
13. La psicologia cognitiva: ensayo sobre un paradigma en transformación 33 suelen ir acompañados de <<esfuerzo>> mental, a 10s procesos de reconocimiento en la memoria, a las estrategias de resolución de problemas, y a 10s productos perceptivos de la visión y la audición. La conciencia est6 asociada también a funciones mucho menos cognitivas como el dolor o las emociones. Por el contrario, no somos conscientes de las rutinas o procesos automáticos, tales como 10s <<mÓdules>> de la visión o del lenguaje, ni 10 somos de algunos procesos sensorio-motores como el control vestibular del equilibri0 o del movimiento. Por otra parte también disponemos de correlatos neuronales de la conciencia. Baste recordar cómo determinadas lesiones occipitales determinan el síndrome de 10s aciegos videntes>>, responden de modo automático ante esque visuales y sin embargo no 10s <<ven>>, o cómo 10s amnésicos pueden retimulo~ como cuperar información previamente aprendida, pero no la <<reconocen>> recuerdos. Todo esto pone de manifiesto que la conciencia no podrá considerarse ya rnás un tema intangible para la especulación filodfica o literario, sino que es un fenómeno con una base fisiológica. Pero estos avances no resuelven un tema de fondo iqué significa la cualidad <<subjetiva>> o experiencial de la conciencia?, ¿por qué somos conscientes después de todo?, iqué necesidad hay de que seamos conscientes? Del mismo modo que algunas de nuestras funciones cognitivas no son conscientes ¿por qué razón no 10 son todas? ¿No podría diseñarse un robot <czombi>> ejecutase toque das las funciones habituales en la gente, sin la menor consciencia? Algunos programas ejecutados en superordenadoresjuegan al ajedrez con un nivel de gran maestro pero ¿son por el10 conscientes? Una concepción emergentista de la conciencia quizá nos diga que un superordenador suficientemente complejo tendra algo de conciencia, como mero epifenómeno de la computación pero ¿por qué iba a ser así? ¿Es más consciente un superordenador que mi calculadora de bolsillo? La reducción de la conciencia a un efecto colateral de la complejidad computacional parece, en primer lugar, inexacta y en segundo lugar no es una verdadera explicación. Algunas conclusiones favorables La visión un tanto crítica que he desarrollado hasta ahora del paradigma S-C no debe ocultarnos sus muchas virtudes. Desde luego, se ha progresado mucho en 10s objetivos coincidentes con la ortodoxia paradigmática. Se ha avanzado, por ejemplo, en el conocimiento de 10s mecanismos modulares del sistema visual o de la comprensión y producción del habla. Pero la cosa no ha quedado ahí. Los propios psicólogos cognitivos, especialmente10s de orientación experimental no se han tomado totalmente en serio todas las prescripciones paradigmfíticas mencionadas anteriormente. Dichas prescripciones son el fruto de planteamientos filodficos sobre la fundamentación lógica de la ciencia cognitiva, pero 10s psicólogos cognitivos no han podido substraerse al estudio de las funciones y tareas que consideraban relevantes, fuesen o no adecuadas a la ortodoxia simbólico-computacional.Así, en 10s años 80 y 90 muchos psicólogos se han aproximado a una descripción naturalista de 10s procesos mentales, han estu-
14. 34 M.de Vega diado la interacción entre emociones y cognición, han investigado la organización de 10s <<sistemas centrales>>, intentado desvelar las funciones de la conhan ciencia, han avanzado en el estudio del pensamiento, o han tratado de valorar cómo la arquitectura cerebral impone restricciones a la arquitectura funcional. Por otra parte, como veremos en la próxima sección, la propia noción de cómputo del paradigma S-C está siendo contestada por aquellos que parecen haber dado a luz a un nuevo paradigma cognitivo: 10s conexionistas. En conjunto, podemos asegurar que en las tres últimas décadas hemos avanzado en el conocimiento de 10s procesos mentales mis que 10s tres Últimos siglos. Sabemos mucho más que el ciudadano de a pie de modo que nuestros datos y modelos van mucho más all6 de las intuiciones de su <<psicologia ingenus>>. Pero también sabemos mucho más que 10s grandes filósofos de antaño, pese a sus capacidades analíticas privilegiadas. Ha sido el método experimental aplicado al estudio de la mente, en mi opini611 tanto o más que 10s avances en la formalización o en implementación computacional, el que ha permitido extender nuestro conocimiento sobre la cognición. Una gran parte de 10s procesos cognitivos son totalrnente inconscientes, es diecir, inaccesibles al ámbito limitado de nuestra atención. El10 plantea un límite i,nsuperableal análisis introspectivo aunque vaya acompañado de un gran rigor lógico. Simplemente, al ciudadano corriente o al filósofo de la mente le están completamente vedados algunos datos relevantes para entender la naturaleza de: 10s procesos mentales. Sin embargo, las nuevas técnicas de investigación y el ingeni0 de 10s investigadores en el diseño de experimentos permite desvelar algunos de estos procesos. Baste un ejemplo, en nuestro labolratorio investigábamos cómo se produce el reconocimiento de las palabras, y concretamente en qué medida las sílabas son entidadqs cognitivas necesarias para acceder a las representaciones léxicas (Carreiras, Alvarez y de Vega., 1993). Con esta finalidad, seleccionamos palabras compuestas de sílabas de alta frecuencia y palabras compuestas de sílabas de baja frecuencia. Por ejemplo copa est6 compuesta por 2 sílabas frecuentes (co=9144 Imillón y pa= 666/millÓn), y guardia est6 compuesta por 2 sílabas infrecuentes (guar=20l/millón y dia= 2812/mi11Ón),pero ambas palabras globalmente tienen una frecuencia semejante (62 y 66 por millón, respectivamente). Posteriormente, valoramos el reconocimiento de ambos tipos de palabras en una tarea de decisión léxica. Los resultados fueron inesperados: las palabras compuestas de sílabas de baja frecuencia se reconocían más deprisa que las palabras compuestas de sílabas de alta frecuencia. Estos resultados contra-intuitivos tienen, sin embargo, una explicación: cada sílaba funciona como un código de acceso a todas las representaciones léxicas que comparten dicha sílaba. De modo que cuando la primera sílaba es más frecuente activa una cohorte de candidatos léxicos muy numerosa, mientras que si es una sílaba poc0 frecuente activa pocos candidatos. En cualquier caso, el procesamiento de la segunda sílaba de la palabra envia activación confirmatoria a un solo candidato, mientras que 10s demás candidatos deben iniciar entonces un proceso de inhibición. El proceso inhibitorio ser5 mis lento cuando la cohorte de candidatos es más numerosa, es decir, cuando la primera sílaba fue de alta frecuencia. Las investigaciones posteriores confirmaron la validez de este modelo de activación-inhibición en el procesa- s
15. La psicologia cognitiva: ensayo sobre un paradigma en transformacidn 35 miento silábico. A partir de la simple reflexión racional, difícilmente se hubiera descubierto este mecanisme, dado que no tenemos ningún acceso consciente a 10s procesos léxicos. En cambio, 10s experimentos desvelaron un fenómeno nuevo y forzaron una explicación. Los nuevos paradigmas cognitivos Algo se mueve en la psicologia cognitiva en este final de siglo. Ya hemos mencionado que el conexionismo y la neurociencia cognitiva han caldeado de nuevo el ambiente, de modo que el clima intelectual es parecido al de la década de 10s 60 con el recién estrenado paradigma S-C. No disponemos de la perspectiva histórica de casi 40 d o s para valorar 10s nuevos paradigmasl y no conviene hacer profecias, de modo que me limitaré a tratar de ellos brevemente y a desearles suerte. I El conexionismo Si el paradigma S-C se desarrolló siguiendo la m e t ~ o r a ordenador el del conexionismo parece mis próximo a la metáfora del cerebro. En lugar de un Único procesador central que ejecuta cómputos simbólicos secuencialmente, el conexionismo desarrolla modelos compuestos de un gran número de procesadores (o nodos) interconectados y que funcionan en paralelo. El origen histórico del conexionismo es tan antiguo, al menos, como el del paradigma S-C. Así en la década de 1940, el manifiesto matemático de Warren McCulloch y Walter celulares>> Pitts sobre redes neurológicas fue seguido de la noción de c<asambleas de Donald Hebb; y en 1962 Rosenblatt caud un gran revuelo al elaborar una que prueba de un algoritmo consistente en una única capa de <<perceptrones>> podían aprender a responder a varias tareas. sin embargo, estos esfuerzos tempranos se vieron truncados poc0 después por el libro de Marvin Minsky y Seymour Papert Perceptrons, que mostraba la incapacidad de 10s perceptrones para resolver cómputos de orden secundari0 como el famoso problema XOR (exclusiveor), una función de dos argumentos binarios que produce 1cuando 10s inputs son diferentes (v.g., cuando uno es O y el otro 1) y produce O cuando son iguales. Este parón temprano en el desarrollo del conexionismo permitió que el paradigma CS fuese el dominante durante varias décadas. Pero la situación volvió a cambiar en 10s 80, cuando David Rumelhart y James McClelland, entre otros, afrontaron el desarrollo de perceptrones multicapa, de modo que entre las unidades de input y las de output, se introdujeron unidades <<ocultas>>. fue posible gracias al Ello descubrimiento del potente algoritmo de retro-propagación capaz de modificar, 1. El témino qaradigmax es batante imprecisa y algunos consideran, entre eiios el propio Kuhn, que en psicologia no ha habido bata ahora aut6nticos paradigma. Sin embargo, creo que el t6rmino es muy expresivo para describir sistemas conceptuales con un vocabulario, una formalizaci6n y una metodologia bien diferenciada.
16. M.de Vega 36 mediante entrenamiento, 10s pesos de las unidades en estas redes multicapa. Con este equipamiento formal era ya posible resolver el problema XOR y otras cuestiones de interés cognitivo. penetra con fuerza en 10s circuitos A partir de entonces, el conexion~ismo m académicos de la psicologia asi como e 10s centros de inteligencia artificial. La terminologia, las tablas, 10s gráficos, y las metáforas interpretativas han cambiado substancialmente en relación a la época anterior. Todo hace pensar que el conexionismo no es simplemente un nuevo modelo cognitivo dentro del paradigma S-C, sino un verdadero paradigma alternativo con una concepción muy diferente de las funciones cognitivas. IdaTabla 1 recoge algunas de estas diferencia~ apenas tenemos espacio para esbozar en este articulo. que TABLA DIFERENCIAS EL PARADIGMA Y EL CONEXIONISMO 1. ENTRE S-C Paradigma S-C Conexionismo Unidades simbólicas Macro-procesamiento Procesamiento serial Procesamiento discreto Reglas explícitas No aprendizaje Modelos no robustos Unidades sub-simbólicas Micro-procesamiento Procesamiento paralelo Procesamiento continuo Reglas emergentes Aprendizaje Modelos robustos Las neuronas individuales no repiresentan símbolos (no hay una neurona o conjunt0 de neuronas que corresponda al simbolo <<mesa>>); bien es la pauta más de actividad de grandes agrupaciones neuronales distribuidas en el cerebro 10 que corresponde a una representación. El conexionismo trata de estudiar cómo se adquieren estas pautas de activación de múltiples unidades sub-simbólicas y, en consecuencia, ofrece un análisis de rnicro-procesamiento en contraste con el del carácter <<macro>> paradigma simbólico. Por ejemplo, el algoritmo de retropropagación opera modificando la fuetrza de las conexiones asociativas de las unidades subsimbólicas (<<neuronas>> o <<perceptrones>>). sistemas conexioLos nistas, al igual que el cerebro, realizan multitud de cómputos en paralelo realizados por una gran masa de unidades de procesamiento que opeTan simultáneamente. Además, se trata de un procesarniento continuo a través de la red, muy diferente de la ejecución secuencial en pasos discretos de programación propia del paradigma S-C. Uno de 10s rasgos !más espectaculares del conexionismo es de ... para que no existe nada parecido a un conju~nto reglas <<si entonces>> explicar la cognición. El investigador conexionista no debe preocuparse por descubrir que el <<programa>> gobierna una determinada función cognitiva, sino que construye una red con pesos asociativos arbitrarios y luego la <<entrena>> mediante un gran número de ensayos en una determinada tarea, proporcionándole una retroalimentación a sus respuestas. En cada ensayo, el sistema reajusta 10s pesos asociativos entre las unidades mediante la regla de retro-propagación u otra similar.
17. La psicologh cognitiva: ensayo sobre un paradigma en transfonnación 37 El resultado es que la propia red conexionista se <<auto-programa>> reglas de y las alto orden <<emergen>> una consecuencia de 10s procesos de aprendizaje en como el micro-nivel. Las redes conexionistas al igual que el cerebro son robustas de modo que, una vez entrenadas ante una determinada tarea, son resistentes al ruido. Así, responden correctarnente ante estímulos no prototípicos e, incluso, mantienen un buen nivel funcional después de haberse <<desmido>> algunas unidades de la red. Esto contrasta con la rigidez funcional de 10s modelos S-C en 10s que cualquier alejamiento del prototip0 de estimulo requiere una re-programación (o re-modelización) del sistema. El conexionismo está en plena expansión y ha revitalizado la psicologia cognitiva. Captura algunas de nuestras intuiciones sobre el funcionamiento del cerebro como computador biológico y pone de manifiesto que algunas de las dificultades del paradigma S-C no son un callejón sin salida. Sin embargo, el conexionismo tiene mucho camino por andar antes de demostrar que es el paradigma cognitivo del próximo siglo. Tanto las defensas como 10s ataques al conexionismo se nos antojan hasta el momento como planteamientos m h bien ideológicos, basados en creencias, expectativas generales y hasta sentimientos románticos. No hay una meta-teoria computacional que nos permita conocer a priori qué es 10 que puede hacer el conexionismo y cuides son sus límites, de modo que el desarrollo del paradigma procede de un modo empírico, por ensayo y error. Tal como aseguran Minsky y Papert: Ni el profano ni el especialista en computación parece reconocer cuán primitivo y empírico es nuestro estado de conocimiento sobre estos temas. No sabemos en qué medida puede incrementarse la velocidad de cómputo, en general, utilizando en -o en máquinas de procesarniento en crparalelo>> lugar de <<serial>>ccandogo~ lugar de <<digital>> (Minsky y Papert, 1969, p. 2). De momento, el conexionismo explica muy bien 10s procesos de aprendizaje de patrones, es decir, aquellos procesos en 10s que nuestro cerebro extrae patrones estadísticos a partir de un gran número de ensayos con ejemplares. Esto ha permitido ofrecer buenos modelos de aprendizaje de conceptos, del procesamiento o r t ~ g r ~ o del análisis gramatical. Sin embargo, no todo 10 que co hacemos. las personas se reduce a un procesamiento <<estadística>> del medio. También construimos representaciones singulares de sucesos y episodios especifico~, en estos casos cobra importancia la estructura temporal o secuencial y y la configuración única (no iterativa) de conjuntos de parámetros. Por otra parte, 10s procesos de resolución de problemas tienen asimismo ese carácter secuencial y creativo que difícilrnente puede reducirse a la extracción y aplicación de patrones estadísticos. La neurociencia cognitiva Las ciencias del cerebro o neurociencias han cobrado un gran impulso y alcanzado enorme prestigio en 10s últimos aiios. Las revistas cientificas genera-
18. 38 M.de Vega les más importantes, como Nature o Science, con frecuencia publican estudios sobre 10s correlatos neuronales de la cognición y el Último congreso internacional de Neurociencia reunió a más de 20.000 participantes. El renovado interés por la neurociencia ha coincidido con el desarrollo de nuevas tecnologias que ofrecen información sobre el cerebro hunnano en funcionamiento. Por ejemplo, las técnicas de neuro-imagen como PET-scan,y MRI(~) permiten registrar 10s procesos metabólicos cerebrales mientras una persona est6 realizando una determinada tarea cognitiva. El10 permite elaborar imágenes de alta resolución espacial sobre las regiones cerebrales que se activan en cada tip0 de tarea. Por su parte, 10s ERP (Event Related Potentials) ofrecen un registro de EEG sincronizado con el procesamiento de estirnulos, 10 cual pe:rmite desvelar la <<firma>> electrofisiológica característica de algunos procesos cognitivos. Otras técnicas más tradicionales se basan en el estudio de 10s trastornos funcionales adquiridos en 10s pacientes con lesiones cerebrales, que proporcionan una información útil sobre la organización modular en el cerebro de algunas funciones como el lenguaje o la memoria. Estos datos se complementan con 10s estudios hechos con animales mediante técnicas de ablación cortical, iniplantación de microelectrodos, etc. Estos avances son importantes pero, en mi opinión, la neurociencia cognitiva no constituye un paradigma diferenciado en el sentido en que 10 es el conexionismo. La neurociencia constituye el rivel de anáíisis del hardware mientras que la psicologia cognitiva supone el nivell algorítmico, tal como postulaba Marr. Más que plantear una oposición entre ambos niveles, es mejor considerarlos como formulaciones complementarias que aportan restricciones mutuas. Por una parte, 10s modelos funcionales sirven necesariamente de guia a las investigaciones de la neurociencia. Las estructuras y funciones postuladas por la psicologia cognitiva son necesarias para plantear objetivos especificos a la investigación: las técnicas al cerebro, pero debemos disponer de un buen de neuroimagen son una <<ventana>> análisis funcional (cognitivo) para saber h~acia dónde hay que mirar por esa ventana. En efecto, 10s sistemas y funciones descritas por 10s psicólogos, tales como 10s módulos del procesamiento del lenguaje, la memoria a corto plazo, 10s procesos atencionales, las imágenes mentales, o la conciencia visual, son algunos de 10s temas que la neurociencia ha heredado y asumido como propios. Además, 10s mitodos de la neurociencia s610 parcialmente tienen que ver con el cerebro: la medida de 10s parámetros cerebrales constitcuye, generalmente, la variable dependiente (v.g.: qué regiones se activan y cuándo se activan), mientras que las variables independientes proceden de diseiios de tareas típicamente cognitivos: tareas de decisión léxica, tareas de atención dividida, manipulación de listas de palabras, comprensión de oraciones, rotació11de imágenes mentales, etc. Por su parte la neurociencia contribuye a sancionar 10s modelos funcionalistas de la psicologia cognitiva. Por e-jemplo, las lesiones del área de Broca determinan trastornos en la articulación del habla y en el procesamiento sintáctic0 10 cual favorece determinadas conct:pciones modulares del lenguaje (v.g., Caramazza y Zurif, 1976); o bien las imhgenes de PET-scanmuestran una activación de áreas cerebrales similares durante la percepción de un objeto y durante la elaboración de una imagen mental de é1,lo que apoya la noción de equivalencia funcional entre imaginación y percepción visual (Kosslyn, 1988).Además, la
19. La psicologia cognitiva: ensayo sobre un paradigma en transfonnucidn 39 neurociencia puede ofrecer sus propios datos que estimulen el análisis funcional; por ejemplo, la especialización hemisférica de algunas funciones, la activación sincrónica de neuronas de 40 ciclos por segundo, la naturaleza de 10s ERP,o el papel de las zonas de convergencia requerirán explicaciones algorítmicas o funcionalistas para lograr una plena comprensión de ellas. La psicologia cognitiva debe mantener una buena comunicación inter-disciplinar con la neurociencia y estar al corriente de 10s avances de ésta en técnicas de investigación. En realidad, para un psicólogo de formación experimental siempre es informativo el análisis de 10s fenómenos mediante la ccbiangulación>> que supone utilizar varios métodos convergentes. Siempre se obtendrá una información más rica si a 10s datos conductuales (v.g., tiempos de reacción o recuerdo) le añadimos 10s datos de topografia cerebral, 10s estudios sistemáticos de doble disociación de funciones con pacientes cerebrales, o 10s registros ERP. Ocasionalmentepueden ser Útiles también 10s estudios de registro de la actividad electrofisiológica de neuronas individuales a partir de micro-electrodos implantados, aunque por razones obvias esto s610 es posible con animales como sujetos de experirnentación. Mediante esta técnica se ha avanzado mucho en el estudio de las funciones que compartimos con otros mamíferos, por ejemplo se ha analizado minuciosamente la topografia funcional del sistema visual utilizando gatos y chimpancés como sujetos experimentales. Es importante recordar, sin embargo, que las técnicas desarrolladas hasta el momento por la neurociencia proporcionan una información parcial sobre 10s fenómenos investigados. Asi, las técnicas de neuroimagen nos aportan información de gran resolución espacial sobre la activación cerebral, pero carecen de suficiente resolución temporal, pues se requieren más de 15 segundos para obtener una imagen funcional. Es evidente que 15 segundos es un grano temporal muy p e s o ya que el flujo de información cerebral (y consecuentemente de 10s procesos cognitivos) es muy rápido. De hecho 10s estudios cronomébicos convencionales de la psicologia nos muestran que muchos procesos significativos ocurren en tiempos muy inferiores a un segundo. Por su parte, el registro electrofisiológico de ERP tiene una magnífica resolución temporal del orden de milisegundos, pero en cambio no ofrece suficiente resolución espacial. Cabe esperar que 10s avances de la electrónica en 10s próximos años nos permitan un registro de la actividad cerebral durante la ejecución de tareas cognitivas, que tenga al tiempo una buena resolución temporal y espacial. Si esto fuera asi, sin duda sería una gran noticia pero en ningún caso 10s datos neurofisiológicos podrán substituir por si mismos a la psicologia cognitiva (o si se prefiere a la neurociencia cognitiva). Siempre habrá necesidad de disponer de modelos interpretativos de 10s datos, y cuanto más minuciosos sem éstos mis articulados y precisos deberán ser nuestros modelos psicológicos. ¿Por qué no existe HAL? La tecnologia de 10s ordenadores ha avanzado mucho desde 10s años 60 y hoy sin embargo éstos no parecen más <cinteligentes>> en dia, salvo en el sentido
20. limitado en que 10 son 10s programas que juegan al ajedrez o las diversas aplicaciones informáticas. Desde luego no existe HAL ni 10s robots inteligentes, s610 algunas demostraciones de feria. Por supuesto también existen herramientas robóticas y programas <<expertos>>, su funcionamiento rígidamente pre-propero gramado 10s aleja de 10 que entendemos por <&teligencia>>. Quizá esto no deba preocuparnos a 10s psicólogos al tratarse de un tema exclusivo de la IA. Pero 10 cierto es que la IA es una tecnologia cognitiva de modo que la escasez de sus logros refleja, en gran medida, la inmadurez de las ciencias cognitivas entre ellas la psicologia. Creo que parte de las insuficiencias de la psicologia cognitiva y subsidiariamente de la TA tienen relación con la marginación del procesarniento episódic0 en favor del procesamiento semántico. En psicologia se ha desarrollado un buen número de modelos de memoria sennántica, del léxico mental, o de 10s esquemas. Todos estos modelos reflejan, solbre todo, el conocimiento que tenemos las personas sobre ciertas regularidades recurrentes del medio, que aimacenamos como estructuras permanentes en la merroria. En algunos casos también se intenta explicar la génesis y modificación die estas estructuras de conocimiento, a menudo como un proceso de extracción dbe regularidades estadisticas a partir de ejemplares o de estimulos singulares. P'or ejemplo, aprendemos el concepto mesa o el esquema del restaurante extrayendo un patrón promedio a partir de multitud de experiencias con mesas y restaurantes individuales, respectivamente. El propio conexionismo supone una continuidad en su preferencia por 10 <<semántico>> modo que ofrece una explicación computacional detallada del de proceso de adquisición de pautas conceptuales genéricas. Todo el10 es importante, pues el cerebro es en gran medida un <<procesador estadistico>>. Pero, además, e igualmente irmportante, el cerebro es un codificador de situaciones individuales. Asi, no s610 teaemos un conocimiento genérico de 10 que es un aparcamiento, sino que recordamos (o intentamos recordar) dónde hemos aparcado el coche esta mañana. O bien, tenemos conocimientos prototipicos sobre 10s roles sociales (camarero, profesor, etc.), sobre tipologias de individuos (un vago, un ambicioso, etc.), o disponemos de teorías implicitas sobre dominios humanos (el papel de la mujer, la familia, las clases sociales, etc.), pero también construimos modelos situacionales únicos sobre un contexto situacional particular. Esto Último supone que debemos de codificar, registrar y actualizar un buen <<qui& hizo número de relaciones cambiantes, tales como <<qui&dijo que>>, que>>, <<quién que>>, sabe <<qui intención time mi interlocutor>>, relación hay <<que <<en <<cuándo entre mi interlocutor y otras personas>>, qué lugar está un objeto>>, ocurrió tal suceso>>, qué ocurrió tal silceso>>, La representación o mode<<por etc. lado de situaciones es un problema computacional que las personas resolvemos muy bien y que 10s modelos psicológicos y de IA apenas tratan. Naturahente todos tenemos la intuición de que codificamos y recordamos sucesos o estimulos singulares. Pero en psicologia cognitiva 10 episódico se ha descrito, generalmente, como un mero proceso de reconocimiento de patrosemánticas. Asi, si yo recones guiado precisamente por las represe~ntaciones nozco una mesa es porque activo la categoria mesa ante este estimulo particular; o bien si entiendo un texto en el que se hibla de un restaurante es porque activo
21. La psicologia cognitiva: ensayo sobre un paradigma en transfonnacidn 41 o <<instancio>>esquema del restaurante. Sin embargo, considero este tipo de el análisis profundamente erróneo, pues codificar situaciones es algo más que recuperar información de la memoria semántica. Cuando codificamos una situación representamos una configuración única de parámetros que es, además, dinámica ya que hemos de actualizarla de tiempo en tiempo, a medida que 10s parámetros situacionales van cambiando. Además la codificación situacional es la que nos garantiza la acción eficaz e inmediata sobre el entorno ecológico o interpersonal. Supongamos por un momento que disponemos de todo el conocimiento general del mundo propio de la memoria semántica (esquemas situacionales, de personas, categorías, destrezas motoras, conocimientos de psicologia, etc.) y, sin embargo, no podemos construir representaciones episódicas o situacionales ni retenerlas a largo plazo. No recordm'amos nuestras metas e intenciones, ni nuestras citas, ni llevariamos un registro de la experiencia que hemos compartido con nuestros amigos, ni sabríamos qué hemos hecho unas horas antes. Nuestras acciones podrían quizá entrar en absurdos bucles iterativos, pues volveríamos a buscar algo que ya hemos encontrado, a reclamar el libro que ya nos han devuelto, a telefonear a alguien con quien acabamos de hablar, a darle a la recién viuda cariñosos recuerdos para su marido, etc. Esta disfunción catastrófica, al tiempo que selectiva, existe de hecho en algunas arnnesias retrógradas, producidas por lesiones del hipocampo. En estos pacientes cerebrales se observa una incapacidad en el procesamiento de sucesos cotidianos, pero no en el almacenamiento de conocimientos convencionales repetidos frecuentemente (v.g., Vargha-Khadem, et al. 1997). La tarea del cómputo o modelado de situaciones es ingente porque un sistema que elaborase representaciones estáticas no sería viable. Constantemente se producen alteraciones en uno o varios parámetros situacionales y debemos de actualizar el modelo mis o menos en tiempo real. Los sucesos físicos, las acciones de otros agentes animados, o nuestra propia acción sobre el entorno, junto a 10s cambios en nuestros estados mentales (metas, intenciones o emociones) determinan que la situación se modifique y tengamos que hacer una puesta al dia de 10s modelos situacionales. Pero esto no es una tarea trivial como 10s teóricos de la IA y 10s filósofos de la mente han señalado (v.g., Pylyshyn, 1988). Ellos 10 denominan el problema del marco (fvameproblem)y podríamos plantearlo asi: a cada cambio en un parámetro significativo de la situación, el sistema (v.g., un robot) debe actualizar algunas <<creencias>> y mantener estables otras, pero no está claro a priori cuáles deben modificarse y cuáles deben mantenerse. Por ejemplo, frente a mi una taza de café sobre un hay plato con una cucharilla dentro. Si yo decidiese levantar el plato en alto me consta, y al lector también, que debo actualizar mi modelo situacional modificando la posición del plato, del café, de la taza y de la cucharilla, pues todos ellos se desplazarán juntos. Pero si yo decido levantar únicamente la cucharilla en alto entonces la actualización de mi modelo s610 afectar6 a la posición espacial de la cucharilla. Un robot debe ser capaz de comprender y anticipar las consecuencias de sus acciones sobre el mundo y de actualizar sus representaciones situacionales. En caso contrario cometería errores tales como coger la cucharilla cuando trata de coger la taza de café. El problema del marco radica
22. 42 M.de Vega en que 10s algoritmos deductivos basados en el cálculo de predicados simplemente no podrían determinar qué ecreenciasn (v.g., enunciados proposicionales) hay que actualizar y cuáles permanecen inalteradas ante 10s cambios situacionales y las propias acciones. La representación de episodios singulares no significa que 10s modelos situacionales no estén sujetos a restricciones. El número de modelos y de sus estados es potencialmente ilimitado (como 10 es el número de situaciones posibles) pero 10s parámetros y pautas legales de modelado son finitos. Endel Tulving propuso en su momento que la memoria episódica se caracteriza por una organización espacial y temporal de la información. Si~n duda estas dimensiones <<kantianas>> son necesarias para organizar la informacidn en nuestros modelos episódicos, pero habría que añadir alguna más. La organización causal constituye un <<pegamento>> que vincula sucesos y acciones en nuestra representación episódica. Además hay algunas dimensiones interpersonales propias de la <<teoria la mente>> contride que buyen a nuestro modelado situacional (Rivikre, 1991). Cuando nos representamos situaciones interpersonales (y casi todas 10 son en alguna medida) codificamos a 10s demás en términos de estatus, vínculcrs interpersonales, intenciones y metas, estados de ánimo, relaciones de pertenencia o propiedad, etc. Muchos de estos parámetros interpersonales son variables, es decir, que su estado cambia durante el desarrollo de la situación y por tanto hemos de actualizarlos. Los estudios recientes en el marco de la teoría de 10s modelos situacionales proporcionan evidencias abundantes dle que las personas constvuyen y actualizan este tip0 de estructuras epiddicas, y que 10s parámetros privilegiados del modelado son precisamente 10s que hemos citado (espacio, tiempo, causalidad, creencias, intenciones, etc.). Los estudios de comprensión del discurso son un dominio de investigación particularmente valioso para comprender las propiedades de 10s modelos situacionales, tal coimo demuestran 10s trabajos de Arthur Glenberg, Barbara Tversky o Tony Sanfo~rd, entre otros. La ventaja es sobre todo metodológica, ya que el discurso -especialmente si es narrativo- constituye una fuente de información que determina un modelado muy similar al modelado de experiencias con situaciones reales. Pero a diferencia de las situaciones reales, el discurso tiene una estructura relativamente simple (v.g., unimodal, discreta y secuencial) y se puede manipular sistemáticamente, 10 cual permite la investigación del curso temporal del modelado. Hemos de reconocer que no dispon~emos nada pirecido a una teoria alde gori"tmicade 10s modelos situacionales y esta es una tarea que no debe demorarse mis tiempo. Los procesos de modelado son un tanto paradójicos pues parecen tener una doble naturaleza. Por una parte, 10s modelos obedecen a un principio de <<constricciones múltiples>> nos apraximan a una noción conexionista del que cómputo; pero también tienen un carácter direccional, que 10s aproxima a una formalización en términos de reglas <<si entonces>>. ... Veamos estas frases: (1) Luis está cerca de Barcelona (1') Luis está cerca de la mesa (2) Ahora tomaré un café (2') Ahora me casaré
23. La psicologia cognitiva: ensayo sobre un paradigma en tran@ormución 43 Seguramente entendemos que la distancia cerca de es de algunos kilómetros en (1) y de metros o centimetros en (1'); mientras que ahora corresponde a segundos en (2) y a días o semanas en (2'). Este escalamiento espacial ylo temporal parece posible por que somos capaces de introducir en nuestros modelos parámetros no explicitos que se constriñen mutuamente. Asi, el tamaño y el eny <<mesa>> permiten establecer las diferentes estorno implícit0 de <<Barcelona>> calas de distancia, mientras que la persistencia típica de la meta táctica de <<toy en mar cafe>> la meta estratégica de <<casarse>> nuestra mernoria, determinan que establezcamos diferentes magnitudes del presente psicológico. Nuestros conocimientos implícitos de las substancias, 10s tamaños, las formas, las duraciones de 10s sucesos, las expresiones faciales, 10s marcadores gramaticales, etc. seguramente se constriñen mutuamente de modo que establecemos una fina red de microinferencias cada vez que entendemos oraciones y establecemos las escalas dimensionales oportunas. Todo esto tiene un aroma francamente conexionista. Pero al tiempo, 10s cursos de modelado son anisotrópicos de modo que algunos parámetros no se influyen de modo indiferenciado sino según pautas direccionales y asimétricas. Por ejemplo, las causas preceden a 10s efectos pero no viceversa; una vez satisfecha una meta esta debe quedar inactiva; las personas, pero no 10s objetos, generan acciones; un contenedor debe tener más volumen que un contenido, etc. Los clásicos sistemas de producción, las reglas condicionales, o 10s postulados de significado parecen más apropiados que 10s modelos conexionistas para expresar estas relaciones anisotrópicas. Quizá debamos aceptar que la futura teoría de 10s modelos situacionales puede tener una doble formulación computacional, del mismo modo que la descripción de la naturaleza de la luz se hace en términos de partículas o de ondas, dependiendo del dominio de fenómenos que se pretende explicar. En cualquier caso, una teoría bien articulada de 10s modelos situacionales o del procesamiento episódico contribuiria, con toda probabilidad, a resolver varios puzzles académicos tales como el ya mencionado problema del marco o la referencialidad del lenguaje y la conceptualización (el problema del grounding), sin contar las posibilidades que se abrirían a la inteligencia artificial. Consideraciones finales En estas páginas he ofrecido una visión personal del estado de la psicologia cognitiva en este final de siglo. No he pretendido ser exhaustivo sino plantear algunas líneas de reflexión a modo de ensayo, más que de revisión académica convencional. Un análisis más sistemático de la psicologia cognitiva actual hubiera requerido muchas mis decenas de páginas. Mi reflexión se ha basado, por tanto, en una selección de temas. Más que detenerme a considerar 10s éxitos de la psicologia cognitiva en algunos campos como, por ejemplo, la atención, la memoria, o 10s procesos del lenguaje, me he planteado algunas de sus limitaciones, y también he hablado de una cierta crisis del paradigma S-C. Pero ni las limitaciones ni las crisis señalan una decadencia del cognitivismo. La psicologia cogni-
24. 44 M. de Vega tiva ha experimentado importantes transformaciones internas pero de ellas ha salido reforzada. La emergencia de la alternativa conexionista y el empujón de las neurociencias son dos muestras de su vitalidad. Quizá no sea hoy tan común como hace unos aiios utilizar la expresión <<psicologia cognitiva>> escribir mao nuales con esta denominación disciplinar genérica. La Zntroducción a la Psicologia Cognitiva que publiqué hace unos aiios (de Vega, 1984) creo que reflejaba con relativa fidelidad el estado de la disciplina a comienzos de la década de 10s 80. Hoy creo que no sería posible escribir un libro equivdente de s610 500 páginas. Los nuevos manuales didácticos tratan de temas más especializados como psicolingüística, percepción, memoria, conexionismo, neuropsicologia cognitiva, etc. La psicologia cognitiva, pues, ha tenido tanto éxito que se ha desmembrado en una serie de disciplinas cognitivas cada una de las cuales tiene sus temas fundamentales, sus debates, sus métodos y sus c:omunidades de investigadores. Carreiras, M., hvarez, C. & de Vega, M. (1993). Syllable frequency and visual word recognition in Spanish. Journal of Memory and Language. 32,6,766-780. Caramazza, A. & Zurif, E.B. (1976). Dissociation of algtdthmic and heuristic processes in language comprehension: Evidence from aphasia. Brain and Language, 3,572-582. Damasio, A. (1994). Descartes' error. New York: Grossetmutnam Book. De Vega, M. (1984). Zntroducción a la Psicologia Cognitiva. Madrid: Alianza Editorial Fodor, J.A. (1983). The Modularity of Mind. Cambridge, Mass: MiT Press. Garcia-Albea, J.E. (1991). Entrevista con Jeny Fodor. Revista de Occidente, 119, 17-60. Kosslyn, S.M. (1988). Aspects of a cognitive neuroscience of mental imagery. Science, 243,1627-1629. Minsky, M.L. & Papert, S.A. (1969). Perceptrons. Cambridge, Mass: MiT Press. Pylyshyn, Z. (1988) (Ed.). The robot's dilema. Nonvood, NJ: Ablex. Rivikre, A. (1991). Objetos con mente. Madrid: Alianza. Stork, D.G. (1997, Ed.). HAL's legacy. Cambridge, Mass: MIT Press. Vargha-Khadem, F., Gadian, D.G., Watkins, K.E., Connelly, A., Van Paesschen, W.& Mishkin, M. (1997). Differential effects of early hippocampal pathology on episodic and semantic memory. Science, Julio, 376380.
Ensayo sobre la segunda parte del libro de psicología clínica de ivan n. mens...
Ensayo Psicología y Sociología
Charly Crazzy

References: resolución 
 resolución 
 resolución 
 resolución 
 resolución 
 resolución 
 resolución 
 resolución 
 resolución 
 resolución 
 resolución 
 resolución 
 resolución