Vitalik Buterin analiza los riesgos ocultos de AGI: ¿estamos preparados para lo que viene?

• Vitalik Buterin destacó los riesgos específicos de AGI e instó a soluciones específicas para la adopción segura de tecnología.
• El cofundador de Ethereum abogó por la descentralización y la autocustodia para salvaguardar los ecosistemas criptográficos y de inteligencia artificial.

El lanzamiento del último modelo de OpenAI, O3, ha reavivado los debates en torno a la búsqueda de la Inteligencia Artificial General (AGI).

Con una impresionante puntuación del 87,5 % en el índice de referencia ARC-AGI (una métrica clave para medir el progreso hacia la inteligencia general), O3 marca un importante paso adelante en el desarrollo de la IA.

Sin embargo, junto con el entusiasmo, persisten las preocupaciones sobre los riesgos potenciales que la IAG podría plantear si supera las capacidades cognitivas humanas. 

Buterin sobre los riesgos potenciales de la IAG

Al comentar lo mismo, el cofundador de Ethereum [ETH], Vitalik Buterin, compartió recientemente su perspectiva sobre los riesgos potenciales asociados con la IAG.

Al publicar en X, Buterin proporcionó información valiosa sobre cómo la IA podría evolucionar para lograr escalabilidad y adopción generalizada.

Subrayó la importancia de abordar los importantes desafíos que la IAG podría traer consigo a medida que se integre más en las aplicaciones convencionales.

Señaló,

Fuente: Vitalik Buterin/X

Aquí, Buterin argumentó en contra de ver la IAG como una entidad abstracta imparable y abogó por centrarse en vectores de ataque específicos.

Destacó además los riesgos potenciales.

Estas incluyen la IA general que explota vulnerabilidades de software, difunde información errónea para manipular humanos, implementa agentes biológicos digitales, toma de control de infraestructura física o supera por completo la inteligencia humana.

¿Cómo empezó todo esto?

Para contextualizar, sus comentarios surgieron en respuesta a las observaciones de Balaji sobre el ritmo acelerado de los avances tecnológicos, lo que desencadenó debates más profundos sobre las implicaciones del desarrollo de la IAG.

En el mismo hilo, Buterin destacó que las criptomonedas son “solo una parte de una historia más grande” y enfatizó su interconexión con estrategias más amplias de crecimiento y desarrollo.

El ejecutivo también compartió un diagrama complejo que contrasta el “mundo de los átomos” físico con el “mundo de los bits” digital, ilustrando la interacción entre estos dominios.

Fuente: Vitalik Buterin/X

¿Y qué más?

Buterin también subrayó la importancia de garantizar la seguridad de las tecnologías emergentes. El ejecutivo señaló que la autocustodia “no es la solución predeterminada en el ecosistema criptográfico actual”.

Además, destacó los riesgos del control centralizado en los ecosistemas de las criptomonedas y la inteligencia artificial. Los usuarios suelen confiar en entidades centralizadas como las bolsas, lo que puede dar lugar a vulnerabilidades como ataques informáticos y mala gestión.

Al destacar los peligros que plantean los actores maliciosos, incluidos los estafadores que utilizan herramientas como el bot de inteligencia artificial de Elon Musk, Buterin abogó por un marco descentralizado.

Esto destacó que el cofundador imagina una Internet artificial de las cosas donde las claves privadas otorgan a los usuarios control total, reduciendo posibles ataques a tecnologías como los hogares inteligentes.

Por lo tanto, concluyendo con un decidido llamado a la acción, Buterin enfatizó cómo es posible la adopción generalizada en este caso y dijo:

“Tenemos que esforzarnos explícitamente por lograrlo”.

Esta es una traducción automática de nuestra versión en inglés.