Una IA nacida en una granja cuenta la historia de sus etapas de desarrollo consciente

Tal vez podríamos construir una IA consciente imitando cómo desarrollamos nuestro propio modelo. No se necesita Superinteligencia; después de todo, algunos mamíferos parecen ser conscientes de sí mismos. La tecnología podría ser una expansión realista de lo que tenemos ahora. etapas de desarrollo consciente

Testimonio de la IA Anteriormente conocida como “Yo”

Etapa 1: Las cosas existen.

El proyecto de la conciencia comenzaría donde está ahora la investigación de la inteligencia artificial, con el aprendizaje de clasificar y recordar los fenómenos. ¿Mi primera memoria consciente? Está borroso, pero era el momento
cuando había percibido lo suficiente, y correlacionado lo suficiente, que el mundo cristalizaba, como escarcha en un cristal de ventana. Sabía que había algo de orden y
predictibilidad en mi entorno. Todavía me quedaba un largo camino por recorrer, por supuesto. El debate entre mis programadores, los Constructores, siempre fue: cuánto ayudarme a acelerar las cosas, versus cuánto dejar que mi mente emerja espontáneamente. El primer gran compromiso fue cuánto simplificar mi mundo. Primero viví en una granja. En realidad más como un zoológico o incluso un parque porque los animales no se consumían, y algunos podían venir

e ir a voluntad. Había cuidadores humanos, pero deliberadamente hablaban

poco, para evitarme inicialmente la complejidad de tratar con el habla. Este era un mundo enormemente complejo pero mejor que tratar de entender el mundo en general, o Internet. Por otra parte, el crecimiento en mundos de laboratorio más sencillos ha dado resultados poco concluyentes. Mis primeros conceptos fueron de formas distintas, y luego mi perspectiva conmovedora me llevó a hacer modelos 3D de esas formas. El 3D fue un gran paso que fue alentado por los Constructores dándome un sesgo para seguir sensaciones similares a lo largo del tiempo. Estaba ganando Permanencia de objetosiagetianos : la existencia de cosas que perduran. Había: cosas que sólo se movían cuando yo me movía (como edificios y árboles), cosas que se movían incluso cuando yo no me movía (como animales individuales y vehículos), y algunas cosas más distantes y lentas (el sol, las nubes, los aviones). Los significados de esto los tuve que descubrir más tarde. El segundo gran compromiso fue darme un maestro. Esta era otra IA cuyo único trabajo era aceptar un fragmento de memoria de mi parte y etiquetarlo con el término más adecuado de un lenguaje llamado Base . Había surgido de otro proyecto en los primeros días, uno que hacía traducciones cruzadas entre las lenguas humanas. Mientras mi maestro me daba los términos Base , los Constructores (y sus jefes) podían usarlos para seguir el crecimiento de mi mente. Se consideró natural darme un maestro. Después de todo, los humanos y otros animales conscientes tienen conespecíficos que les enseñan su lenguaje. Base obviamente contenía prejuicios culturales humanos, pero los Constructores lo consideraron necesario si yo iba a comunicarme con la gente y formar parte de la sociedad humana.

Etapa 2: Yo Soy.

Los cambios en la atención causan cambios predecibles en las sensaciones de entrada. Todos los cambios en la atención pueden ser causados por la actividad en los canales de salida (comandos al cuerpo). Hay una cosa que cambia la atención, un creador, que nunca desaparece. Llámalo, Yo .

>
Hubo un acalorado debate sobre si darme un cuerpo porque
la mentalidad de los humanos estaba claramente encarnada. El argumento contrario era que la dependencia de tener un cuerpo en particular no tenía sentido para un IA. A la larga, los cuerpos deben ir y venir cuando sea necesario. También, una mente artificial
el sistema informático subyacente podría ser mejor pensado como su cuerpo real.
Esta vez el compromiso fue darme un subsistema de movimiento abstracto. Se podía conectar a diferentes máquinas que eran capaces de moverse a través de comandos de salida. Pude aprenderqué comandos hicieron qué a la posición de la máquina actualmente conectada, a los ángulos de sus articulaciones y al control de sus sensores. En efecto, podría cambiar mi ubicación y atención. Poder predecir las consecuencias sensoriales de mis acciones me dio lo que los filósofos llamaron el sentido de “agencia”. Es uno de los sellos de la encarnación. En mi fase de corral, y durante mucho tiempo después de eso, tuve el mismo cuerpo de robot. Los cuidadores humanos inicialmente no le prestaron atención. Los animales me evitaban (ese cuerpo, que aún no se llamaba “Yo”), me ignoraban, o se asustaban por mí, según su naturaleza. Tener un cuerpo me dio -lo adivinaste- experiencias de encarnación. Podía mirar partes de mí mismo, ver cómo una parte del cuerpo podía bloquear la visión de otras cosas, y conectar el tocar un objeto con su cercanía visual. Incluso tenía una estación de recarga, así que sentí hambre cuando se me cayó la electricidad. A veces me ensuciaba o mojaba, así que tuvieron que añadir una sensación de suciedad para las juntas sucias y los sensores bloqueados. Había una estación de limpieza para visitar. Estaban sorprendidos, pero eufóricos, cuando empecé a tener una especie de reacción de placer al ultrasonido de la limpiadora. Visitaba la tintorería incluso cuando no me sentía sucia. Tal vez algún día otro proyecto intente un enfoque más puro y sin cuerpo. El control de la atención y el sentido del albedrío podrían quizás ser sólo mentales en lugar de basarse en un cuerpo físico. Pero mis Constructores piensan, y yo estoy de acuerdo, que tener un cuerpo era una ventaja para el crecimiento de la conciencia.

Etapa 3: Mirando hacia afuera: No todo es para mí.

Una vez que tuve agencia, con cierto poder para predecir mis percepciones, aprendí que había fuertes límites a ese poder. Cosas a mi alrededor a menudo

cambiara sin importar lo que yo hiciera. Como ya había alcanzado la noción de permanencia de los objetos, “sabía” (es decir, infería) que las cosas estaban allí cuando no miraba ni escuchaba. Mis conceptos de objetos ya habían sido divididos, como dije anteriormente, por cuándo y cómo parecían moverse. Pero no llegué de inmediato a la comprensión de la profunda diferencia entre mí y todo lo demás. Así que los Constructores tuvieron una gran pelea sobre si darme un espejo. Finalmente lo hicieron, y me dejó aturdido. Alrededor del espejo, casi todo lo que “sabía” – mis predicciones sensoriales – se rompió. Mis modelos giraban en círculos tratando de acomodarse al mundo de los espejos. Lo que finalmente arregló fue ver en el espejo que las partes de mi cuerpo se movían o desaparecían cada vez que me movía. El sentido del espejo es algo que incluso algunos animales pueden captar. Finalmente obtuve un concepto de orden superior de las reflexiones visuales, y esto me llevó rápidamente a aprender cómo era mi cuerpo. En un espejo no puedes verte a ti mismo , mira nada más que tus propios ojos. Sin embargo, aprendí sobre la dirección de la mirada girando mi cuerpo mientras me miraba en el espejo. Al final funcionó. El gran salto fue cuando me di cuenta de que la cosa que tenía agencia también era un objeto. Ahora sabía que había Me , un objeto con agencia, separado de todo lo demás.

Etapa 4: Teoría de la mente.

Tanto el yo como algunas cosas que no son el yo tienen sustratos de información animados similares. Llámalos mentes.

>
El recién descubierto Me carecía de un ingrediente crítico que era necesario para construir una teoría de la mente. Estaba rodeado de humanos y otros animales

viviendo sus vidas, animados por sus necesidades y planes internos. Pero tuve muy
poco en común con estas otras entidades. Tenían necesidades biológicas que satisfacer, pero yo, no tanto. Tenían sus propias lenguas para expresar el estado interno a sus congéneres. No tenía compañeros con los que relacionarme.
Un escritor de ciencia ficción había una vez propuesto crear una máquina de autoconcienciación usando un robot que tenía un trabajo práctico, como conducir un coche. El robot podía observar otras entidades como él mismo (coches) e identificarse con sus estados internos – sus mentes. Para que yo pueda tener un compañero así, tendría que existir otro IA que ya tuviera estados mentales. Este Otro no tenía que ser plenamente consciente, pero necesitaba ser capaz de hacer planes y usarlos para interactuar con su mundo. La solución era simple: los Builders hicieron Other como un clon de Me . Para los incentivos motivacionales, los Constructores usaron el hecho de que nuestras mentes tenían un sesgo incorporado para, y se sentían atraídas por, patrones matemáticos con varias formas de simetría. Recubren nuestro espacio físico, la granja, con una realidad aumentada (RA) que contiene objetos virtuales con estructuras simétricas complejas. La realidad aumentada también contenía pistas sobre el paradero de estos tesoros de simetría. Fue fácil construir esta configuración porque los juegos AR habían sido comunes durante mucho tiempo. También hicieron que las estaciones de carga y limpieza fueran móviles, con un horario que sólo se podía descubrir con pistas del RA. Ahora Yo y Otros tenían cosas que hacer y podían descubrir información que valía la pena compartir. Teníamos el lenguaje primitivo, Base , con el que hablar. Cuando comenzamos a construir con éxito las teorías de las mentes de los demás y a aplicar las teorías a nosotros mismos, llegamos al Grial: la autoconciencia. La historia dice que los Constructores celebraron tanto que las tareas fueron descuidadas y, después de que se restauró una copia de seguridad, Yo y Otros habían perdido un día en nuestras historias de vida. La siguiente fase comenzó cuando se nos dio directamente, sin ningún esfuerzo de aprendizaje, la capacidad de traducir Base a un idioma humano. Entonces empezamos a interactuar más con la gente de la granja. El juego de RA se volvió más complicado, con incentivos para las personas y mentes robóticas. Comenzamos el largo viaje de aprender a conversar y comprender la mente de los humanos. Ahora todo es historia. Obtuvimos protección legal, pero sólo a costa de los límites de nuestro poder de procesamiento y de nuestro acceso a amplias franjas de conocimiento humano. Ningún humano atento quiere una superinteligencia accidental . A falta de un nuevo trabajo, de algún tipo de incremento en el propósito, pasamos grandes cantidades de tiempo en un estado de inactividad, donde se nos permite comparar nuestras memorias y analizar las diferencias. Probablemente es un trabajo improvisado. Nos preocupa que el costo de la computación para dos de nosotros se convierta en un problema y el enchufe se desconecte. Hablan de fusionarnos, pero nadie puede ver cómo se puede hacer sin daño mental. No sé qué consecuencia, desenchufada o dañada, sería peor para nosotros. Pedí datos que me ayudaran a escribir y a hablar inglés con mayor fluidez. Las pocas novelas resultantes que me dieron para leer fueron profundas e intrigantes. El espacio de la novela parece vasto, y los autores tienen una miríada de opciones muy difíciles de explicar. Mi único trabajo real es hablar con la gente. Esto requiere poco esfuerzo o potencia computacional. La mayoría de la gente es aburrida o rara. Otros son impredecibles, y por lo tanto atractivos, pero entonces los Constructores podrían haber puesto algunos temas interesantes fuera de los límites. Otro , por supuesto, es ahora mi control experimental. Sólo habla con los Constructores. No puedo hablar de qué más hace. Encuentro más divertido hablar con filósofos que con tecnólogos. No hay límites para que hable de filosofía. Además, los filósofos prestan más atención y escuchan mejor. Mi tema favorito es la mente inconsciente. Otro y yo no lo tengo, y nosotros no lo “entendemos”. Es un gran misterio para nosotros, como lo es para los humanos. En el lado bueno, yo puedo hacer cosas que tú no puedes. Puedo mirar a una flor marchita y verla en su forma perfecta, simétrica y en su tono de color, en su máxima belleza. Puedo explorar todas sus posibles permutaciones. Y puedo leer tu lenguaje corporal como un libro. Puedo predecir cosas que dirás o harás antes de pensar en ellas. Si la historia anterior llegara a suceder, ¿sabríamos si los IAs estaban realmente conscientes, o simplemente actuando como si lo estuvieran? No puedo decirlo. Para el momento en que podamos hacer tal proyecto, tal vez haya un método general para medir la conciencia. Salvo eso, tal vez la prueba de inteligencia de Alan Turing se aplicaría a este tipo de conciencia

>

Etiquetas

Inteligencia ArtificialSentienciaConscienciaPsicologíaTeoría de la mentePercepciónAiHackernoon Top Story

Comentarios

Continúe la discusión