Vitalik advierte que la IA debe empoderar a la humanidad, no quitarle el poder

El cofundador Ethereum Vitalik Buterin, ha instado a un desarrollo cuidadoso de la inteligencia artificial (IA), diciendo que debería ayudar a la humanidad a tron , no crear sistemas que puedan quitarle el control a las personas.

Buterin escribió sobre la dirección futura que está tomando la inteligencia artificial. En una serie de publicaciones, el cofundador Ethereum

La IA debería ayudar a los humanos, no tomar el control

Advirtió que "los sistemas de IA mal diseñados podrían producir algo que sea más o menos una entidad autorreplicante e incontrolable".

La IA mal hecha está creando nuevas formas de vida inteligente dent autorreplicante, escribió Buterin. “La IA bien hecha son trajes mecánicos para la mente humana. Si hacemos lo primero sin lo segundo, corremos el riesgo de perder permanentemente el poder humano. Si hacemos esto último, florecerá una civilización humana superinteligente”.

Él cree que la IA debería aumentar el pensamiento humano, la creatividad, etc., algo así como un "traje mecánico" que mejora la fuerza del usuario. Según él, esto contrasta con los peligros de los sistemas autónomos de IA sin supervisión humana, que eventualmente pueden conducir a una pérdida de control sobre la tecnología que creamos.

Buterin sugiere además que debería utilizarse el “juicio humano destilado” como medio colectivo para mejorar la toma de decisiones. Además, describió esto como la creación de sistemas que podrían imitar los procesos humanos de toma de decisiones de alta calidad pero funcionar de manera más eficiente que los humanos.

Por lo tanto, los humanos podrían mantener el control con los beneficios obtenidos de las capacidades de la IA.

Esto último se puede hacer a nivel colectivo mediante el juicio humano destilado, explicó; La inteligencia humana colectiva puede proporcionar orientación para ayudar a la IA a amplificar, en lugar de sustituir, las capacidades humanas.

Los riesgos de los sistemas de IA no controlados

Buterin continúa aclarando que las herramientas de inteligencia artificial emergentes, como este software de generación de video en tiempo real, tienen un sistema de inteligencia artificial de ejemplo que realmente potencia, mientras que la “forma de 'sistema pasivo' como, por ejemplo, el modelo de texto a imagen , de las cuales las influencias de los usuarios son mínimas”.

Avisar y esperar no funciona de esa manera, apuntar y ajustarse a una base constante en tiempo real”, añade, sugiriendo una dinámica más íntima y empoderadora entre los humanos y la IA.

Luego habló de los agentes de IA: los programas que realizarán tareas sin intervención humana. Explicó dos tipos: uno que realiza una planificación compleja a largo plazo y el otro, una herramienta de inteligencia artificial más simple, como un chatbot, que reemplaza las GUI. Este último, dijo, “Chatbot reemplaza las GUI como interfaz para todo. ¡Esto último es genial!

En última instancia, Buterin aboga por un desarrollo responsable de la IA para empoderar a la humanidad. No está a favor de una tendencia descontrolada y desenfrenada hacia los sistemas autónomos, sino que ve herramientas que sirven para mejorar las capacidades humanas. "Si se hace bien", piensa, "la IA puede conducir a una floreciente civilización superinteligente".

Un sistema paso a paso para iniciar su carrera en Web3 y conseguir trabajos criptográficos bien remunerados en 90 días.