¿Podría ChatGPT ser consciente? | Roger Penrose, Max Tegmark, Sabrina Pasterski скачать в хорошем качестве

¿Podría ChatGPT ser consciente? | Roger Penrose, Max Tegmark, Sabrina Pasterski

En la charla discuten cuándo tendría sentido decir que una computadora es consciente y no solo que actúa como si lo fuera. Empiezan con un experimento mental: el público escucha a Max desde una pantalla; si al final revelaran que no era Max, sino una IA imitándolo, ¿cambiaría la valoración de su intervención? La idea es separar la calidad de los argumentos del hecho de atribuirle o no consciencia al “sujeto” que habla. Max defiende que, en principio, podría construirse una máquina consciente porque tanto nosotros como cualquier máquina somos materia organizada. Pero insiste en no mezclar consciencia con inteligencia: una máquina puede ser muy capaz sin que por eso haya consciencia. Critica dos posturas comunes: negar el problema (“la consciencia es humo”) y afirmarlo con certeza absoluta (“una máquina jamás será consciente”). Sabrina separa dos preguntas: cómo diseñar sistemas que parezcan conscientes para nosotros (por ejemplo, combinando lenguaje, percepción y memoria), y si el hardware importa: tal vez el cerebro tenga propiedades físicas relevantes que no estamos replicando. Ahí entran los microtúbulos y la duda de si basta “software sobre silicio”. Penrose lleva el debate a la física: sostiene que la mecánica cuántica no está completa porque no explica del todo cómo aparece el mundo clásico, y rechaza la idea de que el colapso dependa de que alguien observe. Propone más bien que la consciencia, si está conectada con algo profundo, podría depender de la física real detrás del colapso, que aún no entendemos. Max introduce otra vía: la consciencia como un tipo específico de procesamiento de información, especialmente con bucles de retroalimentación. Y añade el argumento de la decoherencia: en un entorno como el cerebro, los efectos cuánticos coherentes se degradan extremadamente rápido, lo que hace difícil que la consciencia dependa de una “computación cuántica” sostenida tal como suele imaginarse. Luego pasan a la pregunta clave: ¿qué contaría como evidencia de consciencia en una IA? Coinciden en que no basta con que una IA lo afirme. Harían falta principios verificables que conecten estructuras o dinámicas físicas/informacionales con consciencia, y que se puedan poner a prueba primero en humanos con predicciones que puedan fallar. Cierran con un enfoque normativo: no existe “la IA” como una cosa única; hay muchas arquitecturas posibles. La pregunta relevante no es solo qué puede existir, sino qué queremos construir: herramientas potentes que mejoren la vida, en lugar de fantasías de “dios digital” que reemplaza decisiones humanas.