MADRID, 8 Abr. (Portaltic/EP) -
Meta ha presentado este miércoles su nueva familia de modelos de inteligencia artificial Muse, que debuta con Spark, un modelo diseñado para Meta AI, con capacidad de razonamiento avanzado e inteligencia visual con el que la compañía se acerca a la superintelingencia artificial.
Muse, desarrollada dentro de Meta Superintelligence Labs, engloba los nuevos modelos con los que la compañía avanza hacia la superinteligencia artificial, que comprende el mundo que rodea al usuario.
La primera muestra de sus capacidades llega de la mano de Muse Spark, que se presenta como un modelo con razonamiento multimodal nativo y un fuerte enfoque en la interacción visual, que admite el uso de herramientas, la visualización de la cadena de pensamiento y la orquestación de múltiples agentes.
Para ello, ha recurrido al aprendizaje por refuerzo para mejorar la precisión y al razonamiento en tiempo de prueba para ofrecer la máxima inteligencia por token, como explica en su blog oficial.
Y para garantizar la seguridad de las respuestas, el desarrollo de Muse Spark ha seguido el Marco de Escalado de IA Avanzada para realizar evaluaciones tanto antes como después de aplicar mitigaciones, en las categorías de riesgo fronterizo, alineación de comportamiento y robustez ante ataques adversarios.
Así, según Meta, Muse Spark rmuestra un "rechazo sólido" en dominios de alto riesgo, como armas biológicas y químicas, y "no presenta la capacidad autónoma ni las tendencias peligrosas necesarias para materializar escenarios de amenaza" en dominios de ciberseguridad y pérdida de control.
En evaluaciones de terceros, ha destacado la comprensión del modelo de los contextos de evaluación, ya que fue capaz de identificar 'trampas de alineación' y razonar "que debía comportarse con honestidad porque estaba siendo evaluado".
Ante la posibilidad de que Muse Spark muestre un comportamiento diferente en situaciones cotidianas, distintas de la evaluaciones, Meta considera que merece "una evaluación más profunda", aunque no cree que sea un problema para su lanzamiento, ya que no se han detectado comportamientos diferentes en capacidades o propensiones peligrosas.
Con todo, la compañía ha confirmado que Muse Spark ya está disponible en meta.ai y en la aplicación Meta AI en Estados Unidos, donde la inteligencia artificial ofrece tanto respuestas rápidas como razonamientos más avanzados.
El modelo también introduce nuevas funciones en el asistente de IA. Así, en Meta AI hay un nuevo modo de compras y ahora también genera respuestas con un contexto más rico procedente de Instagram, Facebook y Threads.
Se trata del primer modelo propietario de Meta, aunque la compañía ha confirmado que tiene previsto que las futuras versiones del modelo sean de código abierto. Por el momento, permite el acceso a través de la API en vista previa privada a socios selecionados.