Vitalik Buterin identifica una habilidad donde el humano mantiene la ventaja sobre la IA

Vitalik Buterin señala un límite de la IA: a pesar de su amplio conocimiento, le cuesta evaluar la profundidad de un texto, especialmente cuando lo descubre por primera vez. Para el cofundador de Ethereum, esta diferencia entre saber y sabiduría merece una atención especial.

En breve

• El 29 de octubre, Vitalik Buterin describe la IA como "extremadamente sabia", pero "no muy sabia", especialmente cuando evalúa un texto.
• Según él, los modelos enfrentan más dificultades ante un escrito inédito, que no se beneficia de los comentarios humanos presentes en sus datos de entrenamiento.
• Finalmente, destaca una diferencia esencial: se pueden verificar fácilmente los conocimientos de un modelo, pero es mucho más difícil medir su sabiduría.

¿La IA conoce las referencias, pero comprende las ideas?

Vitalik Buterin expresa regularmente sus reservas sobre los agentes de IA, como en octubre con su "modo paranoico". El 29 de octubre a las 4:11 UTC, publicó una nueva reflexión en respuesta a la escritora Ruxandra Teslo.

La discusión siguió a un artículo del Wall Street Journal sobre Humanities 10, un curso de primer año en Harvard que prohíbe a los estudiantes usar teléfonos y computadoras durante un año.

En su mensaje en X, Vitalik explica que la IA puede movilizar conocimientos sobre casi cualquier tema, pero no necesariamente demuestra un juicio profundo. Entonces, corre el riesgo de detenerse en los aspectos más superficiales de un texto, sin captar plenamente el alcance de su argumentación.

Este comentario se produce en un debate sobre la calidad de las interacciones con los chatbots. Algunos los consideran mejores interlocutores que la mayoría de los humanos para discutir los grandes clásicos. En contraste, una escritora estima que sus comentarios sobre sus ensayos a menudo se resumen en respuestas vacías.

La primera lectura

Para Vitalik Buterin, este límite aparece especialmente cuando el modelo descubre un texto por primera vez. De hecho, una obra famosa se beneficia de décadas de críticas, análisis y comentarios que la IA puede encontrar en sus datos de entrenamiento. Un ensayo reciente, en cambio, no tiene el mismo historial.

Por lo tanto, el modelo debe apoyarse más en el texto mismo, sin poder movilizar tanto análisis preexistente. Esta diferencia es especialmente relevante en el ámbito de las criptomonedas, donde los equipos utilizan agentes de IA para examinar libros blancos, auditorías o propuestas de gobernanza.

Sin embargo, algunos desarrolladores ya advierten sobre las fallas que la IA podría explotar sin comprender plenamente las implicaciones. En estas condiciones, los resúmenes producidos por un modelo no deberían reemplazar una verificación humana, especialmente cuando los riesgos técnicos o financieros son importantes.

La sabiduría, una cualidad difícil de medir

Vitalik Buterin plantea finalmente un problema más sutil: los conocimientos de un modelo se verifican con bastante facilidad, a diferencia de su sabiduría. Se puede controlar una fecha, una referencia o un número. En cambio, juzgar la pertinencia de un razonamiento requiere más que una simple verificación fáctica.

Un episodio de julio ilustra esta distinción. Un concurso organizado en torno a la identificación del autor de un documento anónimo de Ethereum premió, el 6 de julio, al equipo de Franklyn Wang, de Co-Invest. Después de examinar 27 textos, este obtuvo un resultado asociado a una probabilidad de aproximadamente el 20%.

Esta experiencia recuerda que la inteligencia artificial puede reconocer características estilísticas sin necesariamente captar las ideas que se esconden detrás de un texto. La misma precaución se impone cuando analiza código o documentos técnicos: identificar patrones no siempre significa comprender las intenciones de su autor.