La IA Grok de Elon Musk: ¿El Verdadero Futuro de los Modelos LLM?
- George Márquez
- 15 ago
- 12 Min. de lectura
Actualizado: 10 oct
Grok, el nuevo modelo de IA de X por Elon Musk. A primera vista, parece otro LLM más, y el mayor tema de conversación gira en torno a sus atrevidas respuestas. En esta nota, repasaré por qué Grok es el modelo que las grandes empresas tecnológicas deberían considerar para aumentar la rentabilidad. Entonces, ¿Las grandes empresas tecnológicas deberían copiar el enfoque de Grok? Conoce su tecnología, comparativa con GPT, visión de futuro y su impacto en el desarrollo de los LLM.
La inteligencia artificial no deja de sorprender, y en este nuevo episodio, Elon Musk irrumpe con fuerza presentando a Grok, el modelo de lenguaje desarrollado por su empresa xAI. Con un enfoque provocador, aprendizaje en tiempo real y conexión directa con X (antes Twitter), Grok se posiciona como una alternativa desafiante frente a titanes como ChatGPT, Gemini o Claude. En este artículo exploramos a fondo qué es Grok, cómo funciona, qué lo diferencia, y si realmente estamos ante el futuro de los LLM o solo frente a otra apuesta arriesgada de Musk.
Mientras ocurría todo el ruido generado por los anuncios del Dev Day de OpenAI y otras noticias tech; muchos se han perdido el interesante foco del lanzamiento de la IA GROK la inteligencia artificial lanzada por Elon Musk. En esta nota de la IA Grok de Elon Musk ¿Es el futuro de los LLM? voy ampliar todos estos puntos y conceptos importantes:
El dilema de las grandes tecnologías: Como he mencionado antes, las grandes empresas tecnológicas ya han comenzado a aprovechar al máximo sus mercados totales para dirigirse a sus nichos principales. Esta es la razón por la que están invirtiendo tanto dinero en sus campos secundarios.
Cómo Grok podría ser el futuro: Los datos son muy valiosos para todos los grandes gigantes tecnológicos. Por el momento, la mayor parte de la monetización de los datos se enfoca en mejoras de productos o publicidad. Grok proporciona una nueva forma de monetización que permite que muchos más individuos se beneficien. Sin embargo, los mismos principios también se pueden aplicar a cualquier empresa que necesite interactuar con una gran cantidad de datos para crear soluciones internas.
Descripción general de los detalles técnicos: Examinaremos algunos aspectos técnicos que deben tenerse en cuenta al desarrollar sistemas como este.
La hipocresía de AI Doomer: Elon Musk fue uno de los defensores más destacados de AI Pause. Su empresa creó Grok apenas un año después de que solicitó una pausa, lo que indica que estaban trabajando en esto a pesar de su oposición al desarrollo de LLM. Es importante tener en cuenta que muchas personas que alertan sobre los riesgos de la IA con frecuencia tienen motivos ocultos para sus afirmaciones. Es importante tener en cuenta que muchas personas que alertan sobre los riesgos de la IA con frecuencia tienen motivos ocultos para sus afirmaciones.
El dilema de las grandes tecnologías
Hacia el comienzo de la era de Internet, había muchos mercados abiertos para aprovechar. Esto significó que las empresas podían entrar y construir sus imperios especializándose en diferentes áreas. Google tomó la búsqueda, Meta tomó las redes sociales, Amazon E-Commerce, etc. En esta etapa, era posible complacer a los inversores simplemente mostrando un fuerte crecimiento en su nicho. Las cosas son diferentes ahora. Habiendo acaparado ya la mayor parte de sus mercados potenciales, las grandes empresas tecnológicas necesitan expandirse hacia nuevas vías.
Las empresas han estado gastando grandes cantidades de dinero en demostraciones, iniciativas, lobby y adquisiciones. En la actualidad, se está llevando a cabo una competencia por el armamento en la que empresas consolidadas con un valor de billones de dólares compiten contra empresas emergentes que poseen capital de riesgo (y entre ellas mismas). Esto ha provocado un aumento significativo del gasto:
Se proyecta que el gasto mundial en TI alcanzará un total de 4,7 billones de dólares en 2024, un aumento del 4,3 % con respecto a 2024, según el último pronóstico de Gartner, Inc. A medida que los CIO continúan perdiendo la competencia por TI talento, están trasladando el gasto a tecnologías que permitan la automatización y la eficiencia para impulsar el crecimiento a escala con menos empleados.
¿Cuál es la relación entre esto y Grok? Hasta ahora, los LLM no han cumplido con las expectativas, a pesar de su exageración. Durante los últimos dos años, se ha estado anticipando un cambio económico drástico. Se invirtieron numerosos millones de dólares en la creación de modelos sin obtener resultados significativos. Incluso los modelos como GPT han tenido problemas para integrarse en los flujos de trabajo principales. Grok muestra cómo las grandes empresas de tecnología pueden utilizar los LLM para aumentar sus ingresos a corto y mediano plazo.
Grok y su fuentes de datos
Grok tiene 2 características notables:
La primera es la que más nos preocupa. No tanto porque esto mejorará significativamente el rendimiento de la generación de respuestas de Grok (aunque esto dependerá en gran medida del tema en cuestión y los detalles de implementación), sino porque le da a Grok la capacidad de interactuar con un conjunto de datos que cambia dinámicamente. Esta capacidad es muy valiosa.
Quiero que considere las autorizaciones que realmente te permiten obtener un LLM. Los LLM nos brindan una interfaz simple para interactuar con nuestros datos, como mencioné en mi artículo sobre Prompt Engineering. Todos aquellos que obtienen un LLM pueden interactuar con un conjunto de datos subyacente (ya sea directamente a través de RAG o indirectamente a través de un LLM) y extraer información de él.
Trabajé en Análisis de la cadena de suministro y utilizamos datos de Twitter para obtener sentimientos sobre un tema. Toda esa información era una pesadilla en ese momento. Esto altera la dinámica utilizando herramientas como Grok. De repente, puedo estudiar el sentimiento en masa y aprender fácilmente. Grok funciona como una interfaz muy simple para acceder a datos importantes.
Esto abre diferentes opciones para una empresa:
Vender acceso a los datos tal cual: Permite que los ingenieros ganen dinero y ofrece API y herramientas, que son excelentes formas de conectar a los contribuyentes de código abierto al ecosistema de su empresa. Las startups probablemente construirán sus ofertas de valor en torno a esto, creando una fuente de ingresos más estable.
Venta de datos para informes e información: brinda acceso a gerentes, personal financiero y cualquier otra persona que necesite información exhaustiva sobre un tema. Existe un gran potencial de monetización aquí porque McKinsey and Co. realizan operaciones bancarias (la única empresa de consultoría de gestión en Estados Unidos en 2022 valía 366 mil millones de dólares).
Vender servicios de consultoría: Descubrir el mejor formato de publicación, trucos SEO, campañas publicitarias, etc. toma mucho tiempo. Las empresas estarían encantadas de pagar a Google por la creación de sus campañas publicitarias. O permita que Amazon le proporcione información sobre los factores que contribuyen al éxito de los textos publicitarios en el comercio electrónico. Debido a que mis resultados en LinkedIn, Instagram y TikTok son trágicos, pagaría con mucho gusto a estas plataformas para que me ayuden a crear mejores publicaciones. De hecho, soy el único creador en el mundo que obtiene más vistas de mis escritos que las plataformas mencionadas anteriormente que se crearon para la viralidad. Las empresas podrían llevar a cabo esta implementación a través de sus tecnologías de creación de perfiles de usuarios ya existentes sin costo adicional para ellas.
¿Estos cambiarán completamente las empresas? No es probable. Las ideas mencionadas, sin embargo, tienen altos márgenes, bajos costos operativos y pueden implementarse rápidamente. Estos pueden calmar a los inversores hasta que se produzca la próxima ruptura de 10x.
Supongamos que usted es un empleado de una gran empresa de tecnología que desea liderar la prueba de concepto de la idea de inteligencia artificial. O trabaja en finanzas, derecho u otro campo importante con muchos datos internos. En cualquier caso, debería crear una demostración convincente de recuperación de información para comenzar. No te preocupes, tu hijo se presentó en ese lugar. Ahora discutiremos el aumento de la generación de recuperación y las consideraciones que debe tener en cuenta al construir sus propios sistemas de recuperación.
Cómo construir mejores sistemas RAG
En la actualidad, se presta mucha atención a la recuperación de la generación aumentada. La mayoría de las discusiones sobre RAG se centran en la longitud del contexto (bien interpretado por Antropico y cómo se pusieron en el mapa al convertirlo en un tema de discusión tan importante). Si bien esto puede ser importante, la longitud del contexto no es realmente el principal obstáculo para la mayoría de las aplicaciones de RAG. El tamaño del contexto no es el único factor que determina la calidad de las generaciones. Incluso si el modelo tiene una mayor longitud de contexto teóricamente, esto no implica que extraerá datos pertinentes:
Los modelos lingüísticos actuales a menudo no logran incorporar contextos largos de manera eficiente durante la generación. Mostramos que un factor importante que contribuye a este problema son las prioridades de atención que probablemente se aprenden durante la capacitación previa: la información relevante ubicada anteriormente en el contexto recibe menos atención en promedio.
Hay una razón sencilla para esto: mientras que la calidad es difícil de evaluar, el tamaño del contexto no lo es. Como resultado, podemos convertir esta última en una medida. Es un excelente ejemplo de la ley de Goodhart.
La dificultad de RAG radica en que es inherentemente una tarea sumamente complicada. Es difícil medir la calidad de una generación, pero RLHF lo hace bien. Además, depende mucho del contexto porque su caso de uso cambia completamente la dinámica de su sistema (algunas personas quieren usar RAG principalmente para la recuperación de información, mientras que otras quieren RAG que se ocupa más de la Generación).
Principio 1: Poner más énfasis en la recuperación, el diseño y la preparación de datos.
Esto puede parecer muy evidente, pero una de las razones principales por las que muchos proyectos de IA más avanzados se ven obstaculizados es que intentan hacer demasiado con un solo sistema. Esto causa caos en el proyecto porque observamos avances que tienen demasiadas visiones y objetivos contradictorios. Es mejor construir primero un sistema más simple y optimizado y luego agregar complejidad en lugar de intentar construir un sistema complejo de inmediato.
El concepto de extracción de información en RAG es mucho más definido que el de generación. Por lo tanto, tiene sentido maximizar las capacidades en esa área y concentrarse en extraer información. Mi recomendación es impulsar la generación hacia servicios dedicados que tomen información y generen informes sobre ella cuando sea posible. Esto es más confiable, más barato y le permitirá utilizar al máximo la IA determinista y no determinista.
La preparación de datos es otra área que se pasa por alto. Te sorprendería cómo puedes hacerlo organizando tus datos para que sean más fáciles de buscar. Puede dirigir mejor la búsqueda al agrupar datos relevantes, incluso si eso significa duplicación. Finalmente, no pierda la magia del diseño básico y la guía del usuario. Examinemos un ejemplo.
Si alguien en Meta lee este artículo y desea que intente desarrollar una plataforma similar a Grok para las diversas industrias que se encuentran en los informes de la industria compartidos anteriormente, entonces Tendría modelos más pequeños, cada uno limitado a las fuentes de datos de sus respectivas industrias, en lugar de intentar crear un modelo general masivo que analice todos los almacenes de datos. De esta manera, mis costos operativos son más bajos y el modelo no se confunde con frecuencia, al mismo tiempo que facilita la prueba y la mejora (tenemos una visión más detallada de cuándo nuestro sistema funciona mejor o peor).
¿Qué pasa con los conocimientos intersectoriales? Hay 2 formas de hacer girar esto.
Vender esto como un servicio adicional compilado a partir de la información disponible.
Desarrolle una IA de generación de informes separada que tome sus datos de entrada y genere informes sobre ellos (no agrega mucho, solo crea los informes a partir de la entrada).
Sin embargo, al dividir nuestro complejo modelo general en recuperadores y generadores dedicados, podemos ajustar mucho mejor los componentes individuales. Considere esto como una arquitectura de IA basada en el principio de separación de preocupaciones.
Principio 2: Conócete a ti mismo
De manera similar a lo que discutimos anteriormente, es fundamental comprender qué necesita de su sistema RAG para diseñarlo para satisfacer sus necesidades. Antes de comenzar a crear un sistema RAG, es esencial tener una comprensión completa de cómo funcionará y qué problemas resolverá. "Tus planes no pueden tener un "No sé" dijo Noel Noa de Blue Lock.
Los marcos Retriever-Reader y Retriever-Generator son dos estrategias diferentes para responder preguntas de dominio abierto. El marco Retriever-Reader recupera documentos y los lee para obtener una respuesta particular. En cambio, el marco Retriever-Generator recupera documentos para proporcionar contexto y luego crea una respuesta, que podría sintetizar datos de varias fuentes.
Para preguntas precisas y basadas en hechos cuyas respuestas se pueden identificar en los textos , es mejor el Retriever-Reader. El Retriever-Generator es mejor para preguntas que se benefician de la combinación de información o cuando se generan respuestas que pueden no ser directamente extraíbles.
Saber cómo quiere que funcionen sus sistemas le guiará hacia el enfoque correcto.
Principio 3: Priorizar la visualización y la multimodalidad
Si desea que sus sistemas sean beneficiosos para las personas. En general, una mejor recepción está directamente relacionada con más visualizaciones. Una excelente manera de mejorar su sistema RAG es desarrollar la capacidad de trazar cuadros y gráficos. Como se mencionó anteriormente, no se necesitan generadores sofisticados para tomar y trazar datos. La transparencia del sistema aumenta al visualizar los resultados y el proceso.
Las habilidades multimodales son cruciales en general. Los hará más útiles creando sistemas que puedan ingerir, procesar y generar una combinación de datos de texto, tablas e imágenes. Aunque se pueden lograr con el tiempo, son cruciales. Mis experimentos con GPT-4 han demostrado que es muy superior en términos de procesamiento. No es una mala idea usar eso para entrenar su propio modelo o directamente en sus sistemas. Especialmente durante las primeras etapas, cuando la implementación prevalece sobre la eficiencia.
Principio 4: Prevenir fugas e inyecciones de datos
Esto es bastante simple. Al crear interfaces basadas en LLM, siempre existe el riesgo de que un usuario enemigo utilice instrucciones para descargar sus datos o inyectar datos nuevos (falsos/peligrosos) en sus fuentes. No he encontrado una solución excelente aquí, desafortunadamente. La estrategia de los mejores ejecutantes es bastante inútil.
Limite la transmisión para asegurarse de que las personas no extraigan todos sus datos.
Configure los permisos para que cualquier interfaz/método de comunicación solo pueda compartir una cantidad limitada.
Utilice la anonimización/cifrado para reducir el daño causado por las fugas de datos.
Rechace todas las inyecciones de datos por parte del usuario simplemente no permitiendo que la IA realice cambios en sus fuentes de datos subyacentes.
Si se me ocurre una solución universalmente efectiva para evitar esto, oirás hablar de ella. Tendrás que conformarte con estos hasta entonces. Si está interesado en crear sistemas RAG (o con cualquier consultoría de ML), comuníquese con nosotros y hablaremos de negocios.
La hipocresía de AI Doomer en la IA Grok de Elon Musk ¿Es el futuro de los LLM?
Aunque sé que parece que fue hace mucho tiempo, quizás recuerdes la importante Carta abierta sobre IA, que solicitó una pausa en el desarrollo de modelos de IA poderosos. Elon Musk era uno de los más fervientes defensores de esa carta. El 22 de marzo se publicó esta carta. Esto indica que la liberación de Grok no ha pasado ni ocho meses después de esa carta. Esto indica que una gran parte de la capacitación del modelo probablemente se estaba llevando a cabo cuando Musk solicitó esta pausa, dado el tiempo que lleva capacitar a los LLM.
Aunque no soy un gran fanático de vencer a los caballos muertos, es importante reconocer que una gran cantidad de AI Doomers de alto rango son estafadores. Se niegan a participar en discusiones sinceras, realizar investigaciones y críticas de sus puntos de vista y dedicar su tiempo a enfatizar los peligros existenciales sensacionalistas. Hemos visto a "expertos" como Gary Marcus confiar en extrema prudencia, las grandes empresas tecnológicas canalizan una gran cantidad de lobby contra el código abierto y el presidente de MS, Brad Smith, ha declarado recientemente que "GPT es tan abierto como una llama". MS también se ha esforzado mucho para que el gobierno establezca regulaciones que impidan el código abierto. Veamos en la siguiente imagen en inglés.
Observa cómo su regulación incluye cosas como la creación de licencias para modelos, la creación de un registro de sistemas de "alto riesgo" y la inversión en su propia (muy sesgada) investigación académica en lugar de la de terceros que ayudarían a exponer las fragilidades de los sistemas.
MS ha construido toda su plataforma a partir de Linux, un sistema de código abierto, y ahora desea supervisarla para sofocar a los competidores. La mitad de los defensores de la IA buscan control en lugar de seguridad. Observamos algo parecido en el campo de la investigación académica: revistas codiciosas robaron y privatizaron la investigación pública. Todas las personas ahora deben pagar mucho para acceder a la investigación. Es nuestra responsabilidad contraatacar y evitar que centralicen el poder.
La IA Grok de Elon Musk representa un experimento audaz que mezcla potencia tecnológica, libertad narrativa y acceso privilegiado a datos en tiempo real. Aunque aún se encuentra en evolución y con claras limitaciones frente a modelos como GPT-4 o Claude 3, la propuesta de Elon Musk introduce elementos disruptivos que no deben subestimarse. Su visión de una IA menos censurada, integrada en plataformas sociales masivas y diseñada bajo un enfoque autónomo marca un nuevo rumbo en el desarrollo de LLM. Sin duda, Grok tiene el potencial de ser una pieza clave en la batalla por el control del futuro digital. El reloj ya está corriendo.
Servicios Profesionales
En JMC Studio somos una Agencia multidisciplinaria con gran talento creativo, desarrollamos todo tipo de proyectos, puede revisar todos nuestros servicios de tecnología, web e Inteligencia Artificial aquí.
Fuentes: X Twitter, Infra Data, Google Trends, Medium.
Comentarios