FTX y el apocalipsis de la IA, impacto en Anthropic: "Los días de calma han terminado"

FTX se declaró en quiebra antes, con una relación profunda con Anthropic... Inversión masiva

Sam Bankman, influenciado por la raíz del apocalipsis: "altruismo efectivo"

Hay un consenso filosófico, emocional y cultural

[Reportera de Blockmedia, Lee Jeong-hwa] "Nunca volveremos a tener días tranquilos (Things will never be chill again)"

En las computadoras portátiles de los empleados de la empresa de desarrollo de inteligencia artificial (IA) Anthropic, a menudo hay pegatinas con este lema. Puede referirse al apocalipsis de la IA, y también significa "por lo tanto, debemos esforzarnos más para evitar el apocalipsis".

El Wall Street Journal (WSJ) informó el 26 de octubre (hora local) en un extenso artículo que busca las raíces del apocalipsis de la IA, que hay una relación estrecha entre la fallida bolsa de criptomonedas FTX y Anthropic. El fundador de Anthropic, Dario Amodei, asistió frecuentemente a eventos organizados por Sam Bankman de FTX y también recibió inversiones.

Formaron un fuerte vínculo a través de la filosofía del altruismo efectivo (Effective Altruism, EA). EA es la base teórica del apocalipsis de la IA. Sam Bankman, quien fue condenado a 25 años de prisión por cargos de fraude en criptomonedas, ha mencionado públicamente que fue influenciado por EA.

Conexiones entre FTX y el apocalipsis de la IA

El punto de partida no fue la IA, sino la filosofía. EA comenzó con la idea de ayudar al mayor número posible de personas con dinero y recursos limitados. Se trata de calcular cuántas vidas se pueden salvar con una donación de un dólar.

Al extender esta lógica hacia el futuro, los intereses también cambiaron. No solo se trata de ayudar a las personas actuales, sino de prevenir los "riesgos existenciales" que amenazan a las innumerables personas que existirán en el futuro.

La lógica es que si hay alguna posibilidad de que la IA pueda eliminar a toda la humanidad, detenerlo tendría un valor inmenso. Según el WSJ, en el círculo de EA, se considera que vale la pena prepararse incluso si la posibilidad de extinción humana debido a la IA es solo del 5%.

En este punto, aparece FTX.

Sam Bankman fue un patrocinador destacado de EA. Durante el rápido crecimiento de FTX entre 2020 y 2022, fundó la Fundación FTX. Sam Bankman declaró: "Apoyaré a las organizaciones que puedan tener el mayor impacto positivo en el mundo".

Sus intereses incluían no solo pandemias y desarrollo global, sino también la posibilidad del colapso de la civilización humana. Un representante de la Fundación FTX intercambió notas sobre la construcción de un refugio en la isla del Pacífico de Nauru para prepararse para un desastre que podría causar la muerte del 50-99.99% de la humanidad. Estas notas salieron a la luz durante el proceso de quiebra en 2023.

Sam Bankman también vio el desarrollo de la IA desde esta perspectiva. Temía que si la IA se volvía más inteligente que los humanos, podría no tratar a los humanos de manera amistosa.

Inversión de 500 millones de dólares en Anthropic

Esta preocupación se tradujo en inversiones reales. Dario Amodei, cofundador de Anthropic, buscó apoyo de patrocinadores de EA en 2021 para financiar la nueva empresa de IA. Uno de ellos fue Sam Bankman.

Dario Amodei, CEO de Anthropic. Fuente: Reuters (REUTERS/Bhawika) Chhabra

Sam Bankman invirtió 500 millones de dólares en Anthropic. Esta cantidad era cinco veces la cantidad inicialmente recomendada por su equipo de inversión. FTX se convirtió en uno de los principales accionistas de Anthropic. Anthropic declaró que utilizaría estos fondos para investigar y mejorar la seguridad de modelos de IA a gran escala.

La Fundación FTX también prometió fondos a varias organizaciones sin fines de lucro dedicadas a la investigación de la seguridad de la IA. El vínculo no se limitó al dinero.

Nick Beckstead, quien lideró las actividades benéficas de la Fundación FTX, luego dirigió una organización para reducir los riesgos de la IA. Él también vivió en la casa donde anteriormente residían los cofundadores de Anthropic, como Amodei. Esta casa era un lugar de intercambio para los defensores de EA y la seguridad de la IA.

Caroline Ellison, quien lideró la empresa hermana de FTX, Alameda Research, también tenía pensamientos similares sobre la dirección del desarrollo de la IA. Ellison invirtió 10 millones de dólares en Anthropic por separado.

En 2022, representantes de Anthropic y otros laboratorios de investigación de IA se reunieron en un evento en la isla Eleuthera de las Bahamas. En el evento, se discutieron los riesgos de la IA y EA como temas principales. El lugar fue reservado por FTX, que había trasladado su sede a las Bahamas en ese momento.

El destacado defensor de los riesgos de la IA, Eliezer Yudkowsky, presentó en este evento las razones por las cuales la inteligencia artificial general (AGI) podría llevar a la humanidad a la destrucción. También se llevó a cabo un almuerzo al que solo podían asistir aquellos que creen que hay más del 75% de probabilidad de que la humanidad se extinga en los próximos 100 años.

FTX se derrumbó, pero la ideología permanece

FTX se declaró en quiebra en 2022 al no poder devolver los fondos de los clientes. Sam Bankman fue condenado a 25 años de prisión. Las acciones de Anthropic que poseía FTX también fueron vendidas para pagar a los acreedores.

El colapso de FTX también tuvo un gran impacto en el círculo de EA. El WSJ informó que, después de que Sam Bankman fue encarcelado, la marca EA se convirtió en un objeto de aversión. Los líderes de EA tomaron distancia de Sam Bankman. Negaron conocerlo bien.

Sin embargo, la desaparición de FTX no significó el fin de la discusión sobre la seguridad de la IA. Muchos de los antiguos miembros de Anthropic continuaron su relación con la comunidad de seguridad de la IA y EA. También continuaron investigando temas como la posibilidad de que la IA engañe a los humanos y tome el control.

Constellation, una organización que apoya la investigación y reuniones del círculo de seguridad de la IA, también sigue activa. Esta organización se describe en su sitio web de la siguiente manera:

"Nuestro objetivo es reducir el 'daño extremo a gran escala' que la IA podría causar y la 'pérdida permanente de control sobre la civilización humana'."

La paradoja de FTX radica en esto. Un intercambio de activos digitales que se derrumbó debido al mal uso de los fondos de los clientes, resultó en el suministro de una cantidad significativa de fondos a uno de los ejes del debate sobre la seguridad de la IA de hoy.

El lema compartido por los miembros de Anthropic refleja esta conciencia del problema.

"Things will never be chill again."

Este lema no solo significa "nunca volveremos a estar tranquilos". En inglés, "chill" tiene la connotación de estar relajado y despreocupado. Por lo tanto, en el contexto de la seguridad de la IA, puede interpretarse como "ya no podemos volver a vivir despreocupadamente".

Aceptar la posibilidad de que la IA pueda amenazar a toda la humanidad significa que no podemos ver el desarrollo tecnológico de la misma manera que antes.

FTX ha desaparecido. Sin embargo, la red EA patrocinada por FTX y el debate sobre el apocalipsis de la IA permanecen en el corazón de Silicon Valley. La frase "nunca más podremos estar tranquilos" resume esa cosmovisión.

Este contenido se ofrece únicamente con fines informativos generales y no constituye asesoramiento financiero, de inversión, legal ni fiscal. Cualquier evento, recompensa, promoción en línea o información relacionada que se mencione en el presente documento no debe considerarse como una recomendación, solicitud o invitación a comprar, vender, tradear o de negociar de otra manera con cualquier criptoactivo. Los criptoactivos son sumamente volátiles y pueden provocar pérdidas. La disponibilidad de los servicios, productos y eventos relacionados de WEEX puede variar según la región. Tienes la responsabilidad de asegurarte de que tu participación esté de acuerdo con las leyes y regulaciones locales vigentes.