El Auge de Deeps: Un Nuevo Contendiente en IA en Medio de la Caída de las Acciones de Nvidia

Aldo presenta la significativa caída en el mercado de valores, centrándose particularmente en Nvidia, y el ascenso de Dips, un software de inteligencia artificial chino. Cuestiona la veracidad de la información que circula y especula si esto marca el fin para OpenAI, Nvidia u otros gigantes tecnológicos.

Aldo habla sobre Surfshark, un servicio de VPN, enfatizando su importancia para conexiones seguras a internet, especialmente al usar Wi-Fi público o al acceder a cuentas sensibles. Destaca los beneficios de las VPN, como la protección de la privacidad y el acceso a contenido internacional en plataformas como Netflix y Prime Video, y menciona una promoción por tiempo limitado para nuevos usuarios.

Aldo elabora sobre los altos costos asociados con el entrenamiento de modelos de IA avanzados como ChatGPT, desarrollado por OpenAI. Explica que el entrenamiento requiere recursos computacionales y humanos sustanciales, comparándolo con enseñar a un niño a leer millones de libros simultáneamente. El proceso implica hardware especializado como GPUs y TPUs, que son costosos y consumen mucha energía, y requiere semanas o meses de operación continua. Además, la necesidad de un equipo calificado de expertos en IA eleva aún más los costos, haciéndolo viable solo para empresas con recursos financieros significativos.

OpenAI y Anthropic, junto con otras empresas, han invertido más de 100 millones de dólares en recursos informáticos. En contraste, una empresa relativamente nueva llamada Deeps, fundada en 2023 en China, afirmó que podría lograr resultados similares por solo 5 millones de dólares, sorprendiendo a la comunidad de IA y llevando a los desarrolladores a replantearse sus enfoques.

Los desarrolladores de Deeps reconocieron que los modelos de IA tradicionales utilizan precisión de punto flotante de 32 bits (FP32) para los cálculos, lo que consume mucha memoria y energía. Propusieron utilizar precisión de 8 bits (FP8) en su lugar, reduciendo el uso de memoria en un 75% y permitiendo el entrenamiento de modelos más grandes y avanzados con los mismos recursos computacionales. Este cambio es similar a redondear números para mantener la información esencial mientras se ahorra espacio.

Deeps emplea una técnica de predicción de múltiples tokens, en contraste con los modelos tradicionales que generan palabras una a la vez, similar a cómo los niños aprenden a leer. Este nuevo método permite al modelo generar varias palabras simultáneamente, lo que resulta en un proceso que es el doble de rápido mientras mantiene un 90% de precisión. Esta eficiencia es crucial ya que la IA procesa miles de millones de palabras diariamente, lo que conlleva un ahorro significativo de tiempo y recursos.

Deeps ha desarrollado un sistema experto que optimiza el funcionamiento de su IA, rompiendo con los métodos operativos tradicionales de la IA. Este enfoque innovador permite que la IA maneje simultáneamente diversos roles, como médico, abogado, ingeniero, chef y artista, lo cual es intensivo en recursos y complejo. La capacidad de integrar un conocimiento tan vasto en un solo modelo de IA representa un avance significativo en la tecnología de la IA.

La discusión comienza con la necesidad de un procesamiento de información eficiente en la IA, comparándolo con llevar una gigantesca enciclopedia para cada pequeña consulta. Dipstick propone un enfoque novedoso donde, en lugar de una única gran IA, se utiliza un equipo de expertos más pequeños y especializados. Cada experto se centra en un área específica, como matemáticas, medicina o derecho, activándose solo cuando se requiere su experiencia. Este método mejora la eficiencia al conservar recursos y mejorar la precisión, similar a tener un equipo de superhéroes que utilizan sus poderes solo cuando es necesario.

La conversación se centra en el concepto de parámetros en los modelos de IA. Los parámetros se comparan con los miembros de un equipo, cada uno con un rol específico en la resolución de problemas. Cuantos más parámetros tenga un modelo, más inteligente puede ser, ya que puede aprender patrones complejos. Sin embargo, los modelos tradicionales, como los de OpenAI, operan con 1.8 billones de parámetros, todos activos simultáneamente, lo que lleva a un alto consumo de recursos. En contraste, el modelo de Dipstick está diseñado con 671 millones de parámetros, activando solo alrededor de 37,000 a la vez para tareas específicas, lo que reduce significativamente el uso de energía y memoria.

Los resultados de estas innovaciones son notables, con los costos de capacitación disminuyendo de $100,000 a solo $5,000. Las GPU necesarias pasaron de $100,000 a $2,000, y los costos de API se volvieron un 95% más baratos. Además, el modelo de Dipstick puede ejecutarse en GPU de juegos de grado consumidor en lugar de hardware costoso de centros de datos, lo que hace que la tecnología avanzada de IA sea más accesible.

La discusión concluye con el intrigante aspecto de que la tecnología de Dipstick es de código abierto. Esto significa que cualquiera puede ver, analizar y utilizar la tecnología sin restricciones, ya que el código fuente está disponible públicamente. Esta transparencia fomenta la innovación y la colaboración dentro de la comunidad de IA.

Se anima a desarrolladores, investigadores y empresas a revisar cómo operan los sistemas de inteligencia artificial, en contraste con modelos cerrados como los de OpenAI o Google. La transparencia de la IA de Deeps permite a cualquiera verificar su funcionalidad, asegurando la ausencia de sesgos ocultos o problemas técnicos. Esta apertura fomenta un entorno colaborativo donde programadores, empresas y universidades pueden modificar y adaptar la tecnología a sus necesidades, rompiendo con la dependencia de una sola corporación. La disponibilidad pública de su código y documentación técnica ilustra que el éxito de Deeps proviene de una ingeniería inteligente y métodos innovadores en lugar de trucos ocultos.

Al hacer su tecnología transparente, Deeps está remodelando el panorama global de la IA, permitiendo una participación más amplia más allá de solo las grandes empresas tecnológicas. Este cambio representa una amenaza para Nvidia, cuyo modelo de negocio se basa en la venta de GPUs de alto margen. La reciente caída del 16.86% en las acciones de Nvidia representa la mayor pérdida en un solo día en capitalización de mercado, alcanzando los $589 mil millones. A pesar de este revés, Nvidia sigue siendo un jugador clave en la IA, con analistas optimistas sobre sus perspectivas a largo plazo debido a la creciente demanda de sus chips de IA. La empresa ha mostrado resiliencia, recuperándose de pérdidas anteriores, como una caída de $278.9 millones en septiembre del año anterior.

A pesar de la competencia de Deeps, Nvidia sigue siendo un contribuyente significativo al desarrollo de hardware y software de IA. Deeps todavía utiliza chips de Nvidia, contrariamente a los rumores que sugieren lo contrario. La eficiencia de los chips de Nvidia es crucial para manejar las cargas de trabajo sustanciales requeridas para desarrollar modelos de lenguaje como el que utiliza Deeps. Lo que Deeps ha logrado es la creación de modelos competitivos utilizando menos chips y una arquitectura optimizada que mejora el rendimiento, lo que indica que la tecnología de Nvidia sigue siendo vital en el sector de la IA.

Mirando hacia el futuro, los analistas creen que el enfoque de Deeps en la eficiencia y la codificación de código abierto podría democratizar el desarrollo de la IA, permitiendo que más participantes se involucren sin la necesidad de inversiones masivas. Este cambio podría llevar a un entorno más inclusivo en el campo de la IA, donde la innovación sea impulsada por una gama más amplia de contribuyentes.

La aparición de nuevos modelos de IA, como DeepAI, está llevando a empresas consolidadas como OpenAI a reevaluar sus estrategias comerciales para seguir siendo competitivas. A pesar de los avances notables de DeepAI, los expertos creen que es poco probable que desplace completamente a OpenAI a corto plazo debido a la sólida reputación de OpenAI, su base de usuarios establecida y los recursos significativos que permiten la innovación continua.

Las preocupaciones sobre la censura y el control gubernamental sobre los modelos de IA chinos pueden obstaculizar su adopción global. DeepAI evita discutir temas sensibles relacionados con el gobierno chino, como la masacre de la Plaza de Tiananmén de 1989, en cumplimiento con las regulaciones chinas que prohíben contenido que viole los valores socialistas fundamentales o que amenace la seguridad nacional. Cuando se le pregunta sobre la independencia de Taiwán, DeepAI refleja la postura oficial del gobierno chino, afirmando que Taiwán es una parte inseparable de China y oponiéndose a cualquier actividad separatista.

Otros chatbots, como ChatGPT de OpenAI y Gemini de Google, proporcionan información más detallada y sin censura sobre temas sensibles, presentando una ventaja competitiva. Esta brecha en la disponibilidad de información puede ser un área objetivo para estas empresas a medida que innovan para capturar cuota de mercado. El orador compara el momento actual en el desarrollo de la IA con puntos de inflexión históricos, como el auge de las computadoras personales y la computación en la nube, sugiriendo que la IA está a punto de volverse significativamente más accesible y rentable.

El orador enfatiza que la pregunta no es si los jugadores actuales se verán afectados por estos cambios, sino más bien cuán rápido cambiará el panorama. A medida que la tecnología de IA evoluciona, se alienta a las partes interesadas a prepararse para desarrollos rápidos en el campo.

El video concluye con un llamado a la acción para que los espectadores compartan sus opiniones en los comentarios, cuestionando si la situación representa competencia saludable o envidia entre las empresas. El hablante anima a cualquier forma de participación para apoyar el algoritmo del canal.