¿Debería el proyecto de AGI centrarse en replicar la gran cantidad de fenómenos biológicos en el cerebro humano?

No.

Si bien el cerebro humano puede ser inspiración para AGI (y es en el uso generalizado de redes neuronales en máquinas / aprendizaje profundo, por ejemplo), no hay ninguna razón para replicar el cerebro sería la mejor estrategia para lograr la creación de AGI.

Antes que nada, tan maravilloso como es, el cerebro está lleno de deficiencias que no desearíamos incorporar a AGI, como sesgos cognitivos, memoria limitada, emociones negativas, etc.

Además, la historia de la tecnología nos muestra que replicar cierto fenómeno natural nunca se hace realmente de la misma manera que la naturaleza lo hace.

Considera los aviones. Obviamente fueron inspirados por pájaros. Y ellos tienen alas.

Pero también tienen hélices o motores a reacción y muchas otras características que no se parecen en nada a cómo lo hacen las aves.

Toma carros. Básicamente reemplazaron a los caballos. Pero el motor de combustión interna es algo completamente novedoso, y de ninguna manera es similar a la forma en que funcionan los animales transportadores.

Pero cada invención viene con nuevas ventajas y pérdida de función.

Con aviones, son mucho más rápidos que las aves, pero tampoco pueden aterrizar delicadamente en la rama de un árbol.

Con los automóviles, son mucho más rápidos que los caballos, pero no pueden llevarlo a casa sano y salvo cuando está borracho (aunque los automóviles que conducen automóviles pueden devolverle el espíritu de caballo DD).

Esto sucedió no solo en la historia de la tecnología, sino también en la historia evolutiva de la vida.

Los humanos desarrollaron cerebros grandes y se convirtieron en las criaturas más inteligentes del planeta (tal vez en todo el universo), pero los humanos perdieron la habilidad de trepar bien a los árboles, por ejemplo. Los humanos no pueden correr rápido, como muchos animales pueden. Nuestro sentido del olfato se deterioró al comerciar para tener una visión más fuerte (un perro puede identificar a cada ser humano individual en la Tierra por su olor único).

Pero podemos hacer todas estas cosas decentemente. Podemos correr, subir un poco, saltar un poco, nadar un poco. También podemos hacer yoga, tocar el piano y breakdance. Nuestras capacidades de movimiento son bastante versátiles, incluso si no somos los mejores en muchas cosas en el mundo animal.

Además, recuerde que los humanos tienen un desarrollo muy largo fuera del útero, antes de que maduremos. Eso es porque nuestras cabezas se han vuelto tan grandes debido a nuestro cerebro, que debemos salir de nuestras madres muy temprano, para que sus caderas puedan sacarnos antes de que ella y su hijo mueran.

Esta es la razón por la cual los humanos pasan tanto tiempo y energía criando niños.

Compare eso con las jirafas, que simplemente se caen de sus madres más o menos completamente formadas, y comiencen a caminar de inmediato.

Entonces, la lección es que, tanto en la evolución biológica como en la tecnológica, hay compensaciones siempre que surgen nuevas habilidades.

Todo esto debería tener algún sentido de por qué AGI probablemente será bastante diferente de los cerebros humanos.

Habrá algunas similitudes, pero AGI se destacará en formas que los cerebros humanos no pueden.

Y a la inversa, es probable que AGI carezca de muchas de las fortalezas únicas de los humanos.

El “proyecto” de AGI es la evolución del pensamiento, no la evolución del cerebro biológico. Escritura, computadoras, internet, motores de búsqueda, traducción automática, interfaces conversacionales … y, eventualmente, nueva forma de inteligencia. Si todo va bien, evolucionaremos colectivamente hacia la superinteligencia; si no, seremos superados por superinteligencia.