El año pasado, 2023, marcó un hito importante en el avance de la IA generativa, al salir de los laboratorios de investigación para ser adoptada por millones a través de herramientas populares como ChatGPT y Microsoft Copilot. En este nuevo año, 2024, se espera un mayor progreso tecnológico en la accesibilidad y la integración de la IA en nuestras vidas diarias. Estas son tres tendencias clave en IA que definirán la vanguardia tecnológica en el 2024
Small language models
Los Modelos de Lenguaje Pequeños (SLMs, por sus siglas en inglés) representan un avance significativo en el campo de la inteligencia artificial, especialmente en contraste con sus contrapartes más grandes, conocidas como Modelos de Lenguaje Grandes (LLMs). Mientras que los LLMs han demostrado capacidades notables, como ayudar a los usuarios con consultas complejas a través de plataformas como Copilot, su funcionamiento típicamente requiere recursos computacionales sustanciales. En contraste, los SLMs ofrecen una alternativa atractiva debido a su tamaño reducido y a los requisitos de recursos.
Aunque los SLMs todavía incluyen miles de millones de parámetros, una reducción considerable en comparación con los LLMs, que a menudo tienen cientos de miles de millones, son lo suficientemente compactos como para funcionar en dispositivos móviles sin conexión. Los parámetros, esencialmente componentes ajustables dentro de un modelo, desempeñan un papel fundamental en la configuración de su comportamiento.
Sebastien Bubeck, líder del grupo de Fundamentos de Aprendizaje Automático en Microsoft Research, enfatiza el potencial de los SLMs para democratizar el acceso a la IA. Él señala: «Los modelos de lenguaje pequeños pueden hacer que la IA sea más accesible debido a su tamaño y asequibilidad». Además, se están llevando a cabo avances para mejorar la eficacia de los SLMs, con el objetivo de reducir la brecha de rendimiento con sus contrapartes más grandes.
Los esfuerzos de investigación de Microsoft han dado lugar a dos SLMs notables: Phi y Orca, capaces de igualar o superar a los LLMs en dominios específicos. Este logro desafía la sabiduría convencional de que la escala es indispensable para lograr un rendimiento superior en los modelos de IA.
A diferencia de los LLMs, que se basan en conjuntos de datos vastos obtenidos de internet, los SLMs aprovechan datos de entrenamiento curados y de alta calidad. Este enfoque ha llevado a los investigadores a identificar nuevos umbrales para lograr un equilibrio óptimo entre el tamaño del modelo y el rendimiento. Además, los esfuerzos continuos buscan refinar aún más los SLMs, fomentando un entorno propicio para la exploración y la innovación continua en el campo.
Multimodal AI
La inteligencia artificial multimodal está transformando el panorama tecnológico al permitir que los modelos comprendan y procesen información de diversos tipos de datos, como texto, imágenes, audio y video. Esta capacidad está enriqueciendo y haciendo más precisas y fluidas tecnologías que van desde herramientas de búsqueda hasta aplicaciones creativas.
Gracias a los modelos multimodales, como el utilizado por Copilot, puedes obtener información sobre lo que sucede en una imagen cargada, ya que estos modelos pueden procesar imágenes, lenguaje natural y datos de búsqueda de Bing. Por ejemplo, Copilot puede generar información relevante, como la importancia histórica de un monumento presente en tu foto.
La inteligencia artificial multimodal también impulsa aplicaciones como Microsoft Designer, una aplicación de diseño gráfico que puede generar imágenes basadas en una descripción de lo que deseas. Además, permite la creación de voces neurales personalizadas, que son voces naturales útiles en lectores de texto y herramientas para personas con discapacidades vocales.
«La multimodalidad tiene el poder de crear experiencias más parecidas a las humanas que pueden aprovechar mejor la gama de sentidos que usamos como seres humanos, como la vista, el habla y la audición», afirma Jennifer Marsman, ingeniera principal de la Oficina del Director de Tecnología de Microsoft, Kevin Scott.
IA en el Campo Científico
Los expertos anticipan importantes avances en herramientas de inteligencia artificial diseñadas para acelerar los descubrimientos científicos, con gran parte del trabajo dirigido a abordar problemas globales como el cambio climático, las crisis energéticas y las enfermedades.
Para mitigar el cambio climático y ayudar a los agricultores a trabajar de manera más eficiente, los investigadores de Microsoft están utilizando la inteligencia artificial para construir mejores predictores del clima, estimadores de carbono y otras herramientas para la agricultura sostenible. También están desarrollando tecnologías de IA que ayudarán a los agricultores en el campo, incluido un chatbot que puede ayudar a un agricultor a identificar una hierba misteriosa o comparar la eficiencia de diferentes métodos de riego utilizando datos específicos de la granja.
En las ciencias de la vida, los investigadores están colaborando en el modelo de IA basado en imágenes más grande del mundo para combatir el cáncer y utilizando la IA avanzada para encontrar nuevos medicamentos para enfermedades infecciosas y nuevas moléculas para medicamentos innovadores. La tecnología está comprimiendo el ensayo y error científico, un trabajo que puede llevar años, en solo unas pocas semanas o meses.
La IA también está transformando la ciencia de los materiales, un campo amplio enfocado en crear nuevos materiales con propiedades específicas. Un avance reciente demostró el poder de la IA y la computación de alto rendimiento para acelerar la búsqueda de materiales de batería menos tóxicos.
«La inteligencia artificial está impulsando una revolución en el descubrimiento científico», afirma Chris Bishop, director del equipo AI4Science en Microsoft Research. «Eso podría resultar ser la aplicación más emocionante, y en última instancia, la más importante, de la IA».