Cómo las cripto pueden ayudar a proteger la IA

Tanto la criptografía como la IA han experimentado un progreso notable en los últimos años. ¿Cómo que las cripto pueden ayudar a proteger la IA?. Crypto celebró éxitos como DeFi y, más recientemente, DeSci. AI celebró éxitos como AlphaFold2 y más recientemente ChatGPT.

1) Cómo las cripto pueden ayudar a proteger la IA

En 2018, Peter Thiel señaló la tensión entre las fuerzas descentralizadoras de las criptomonedas y las fuerzas centralizadoras de la IA, acuñando el término "las criptomonedas son libertarias, la IA es comunista". Aquí quiero argumentar que podemos aprender algo combinando los dos. ¿Por qué? Porque las habilidades y los enfoques honrados por la comunidad de seguridad y criptografía tienen el potencial de desbloquear aplicaciones útiles de IA y mitigar los riesgos de la IA.
Allison Duettmann es la presidenta y directora ejecutiva del Foresight Institute. Dirige los Programas de Cooperación Inteligente, Máquinas Moleculares, Biotecnología y Extensión de la Salud, Neurotecnología y Espacio, Becas, Premios y Árboles Tecnológicos, y comparte este trabajo con el público.

2) ¿Todos vamos a morir?

Una figura eminente en seguridad de IA, recientemente hizo una aparición sorprendente en Bankless Podcast, un podcast claramente Web3.
Fue sorprendente por dos razones:
Primero, cree que estamos en un camino rápido hacia el desarrollo de Inteligencia General Artificial (AGI) que puede realizar prácticamente todas las tareas que los humanos, y que tal AGI muy probablemente nos matará a todos.
En segundo lugar, cuando se le preguntó si hay algo que uno pueda hacer para aumentar la pequeña posibilidad de que podamos sobrevivir, alentó a las personas orientadas a la seguridad y la criptografía con una fuerte mentalidad de seguridad a participar en la alineación de la IA.
Desempaquemos eso. Primero, discutiremos por qué deberíamos preocuparnos por AGI, antes de enfocarnos en las promesas que la comunidad de criptografía (aquí significa principalmente criptografía) y seguridad tiene para mitigar algunos de los peligros de AGI.

3) Seguridad de IA: ¿más difícil de lo que crees?

Como puede atestiguar cualquiera que haya vislumbrado las noticias recientemente, no pasa una semana sin que el progreso en la IA se acelere drásticamente. En caso de que te lo hayas perdido, aquí hay solo tres desarrollos cruciales:
Primero, ha habido un impulso hacia una mayor centralización de la IA, por ejemplo, cuando Microsoft invirtió en OpenAI, Google invirtió en el competidor de OpenAI, Anthropic, y DeepMind y Google Brain se fusionaron en una sola organización.