Phison lleva las cargas de trabajo de IA locales de gran tamaño a plataformas AI PC de Intel

Phison Electronics, líder internacional en controladores flash NAND y soluciones de almacenamiento, anunció una colaboración con Intel para permitir que los AI PC implementen aplicaciones de inteligencia artificial más grandes y de mayor capacidad de forma local. La colaboración combina los procesadores Intel Core Ultra Series 3 con Pascari aiDAPTIV de Phison, una solución de extensión de memoria que desbloquea sistemas con limitaciones de memoria para que puedan utilizar modelos de IA “Mixture-of-Experts” (MoE) más grandes, sesiones de IA de ejecución más prolongada y flujos de trabajo de IA agéntica.

En la actualidad, los AI PC van más allá de las simples aplicaciones de asistente y se utilizan para casos de uso de IA locales más avanzados. Estas soluciones ahora abarcan usuarios finales y empresas en análisis de documentos, ejecución de flujos de trabajo de varios pasos y protección de datos privados, además de reducir la dependencia de servicios de IA exclusivos de la nube. Como estas cargas de trabajo pueden requerir modelos de IA más grandes, estados de sesión persistentes y una dependencia intensiva de la memoria, muchos usuarios buscan la próxima generación de sistemas cliente con la capacidad de memoria necesaria para soportarlos.

“Los AI PC están evolucionando hacia plataformas para cargas de trabajo de IA locales más sofisticadas, incluidas aplicaciones agénticas y modelos MoE más grandes que son más demandantes para la capacidad de memoria y el grado de respuesta”, indicó KS Pua, director general y fundador de Phison Electronics. “Gracias a nuestra colaboración con Intel, aiDAPTIV ayuda a ampliar la memoria necesaria disponible para las cargas de trabajo de IA en las plataformas AI PC de Intel, con el objetivo de permitir que fabricantes de equipos originales, desarrolladores y usuarios finales ejecuten aplicaciones de IA de mayor capacidad localmente sin resignar privacidad ni eficiencia de infraestructura”.

aiDAPTIV aborda este desafío al extender la memoria de trabajo de IA efectiva en la DRAM del sistema y una flash NAND de alto rendimiento y resistencia extrema que utiliza memoria caché Pascari aiDAPTIV. Al reducir la DRAM requerida para ciertas cargas de trabajo de IA locales y admitir funcionalidades de tiempo de ejecución como la reutilización de caché KV, aiDAPTIV ayuda a que las cargas de trabajo de IA se ejecuten localmente en plataformas AI PC de Intel. En las pruebas de Phison, aiDAPTIV posibilitó que un modelo de 26 mil millones de parámetros se ejecute en un sistema con 16 GB de DRAM, respecto de los 32 GB de DRAM requeridos sin aiDAPTIV en el mismo entorno de prueba.

La colaboración consiste en habilitar la tecnología de Phison en las plataformas AI PC de Phison con procesadores Intel Core Ultra, incluida la compatibilidad con el conjunto de herramientas OpenVINO. Juntos, Phison e Intel están trabajando para hacer posibles evaluaciones ISV, demostraciones técnicas y cargas de trabajo optimizadas para reclamaciones de rendimiento público.

“La memoria es un factor limitante para la ejecución de muchos de los modelos de mayor capacidad en hardware cliente”, explicó Michael Chiang, cofundador de Ollama. “El enfoque de aiDAPTIV de Phison en las plataformas AI PC de Intel puede permitir que las personas ejecuten modelos mucho más grandes de manera local que lo permitido normalmente por su hardware”.

En Computex, Phison realizará demostraciones de aiDAPTIV en plataformas AI PC de Intel, e Intel demostrará una interfaz de usuario de chat local que ejecuta un modelo de IA MoE que normalmente excedería la memoria de sistema disponible, para poner de manifiesto de qué forma aiDAPTIV extiende la memoria de trabajo de IA efectiva utilizando la memoria caché Pascari aiDAPTIV. Además, Phison demostrará una aplicación híbrida de enrutamiento de modelo de lenguaje grande creada con OpenClaw, una marco de trabajo para agentes de IA de código abierto, para destacar la forma en que los modelos de IA MoE más grandes pueden ejecutarse localmente con aiDAPTIV y reducir la dependencia de tokens de nube, con enrutamiento de nube disponible cuando sea necesario para solicitudes más complejas.

“La IA generativa empresarial está avanzando hacia flujos de trabajo locales prácticos, entre ellos RAG, agentes y modelos especializados en ámbitos específicos”, afirmó Darren Oberst, cofundador y director de tecnología de LLMWare. “El enfoque de aiDAPTIV de Phison es prometedor, ya que puede ayudar a que los sistemas cliente AI PC de Intel posibiliten modelos más grandes y aplicaciones de IA de mayor capacidad que mantienen los datos más cerca del usuario”.

En la cabina de Phison también se realizarán demostraciones de socios del ecosistema de software de IA, entre ellos Ollama, LLMWare, TurinTech, Intel AI Superbuilder e Intel AI Playground, donde se podrá ver en acción a aiDAPTIV en aplicaciones de IA locales en el mundo real. La demostración del ecosistema además incluirá colaboraciones de plataformas de hardware con ASUS, MSI y Acer.

“Trabajar con Intel y Phison nos permite llevar la optimización de código orientada a IA a flujos de trabajo prácticos dentro del dispositivo, donde el rendimiento, la privacidad y la disciplina de costes son factores críticos”, agregó Kee-Meng Tan, director general de TurinTech AI. “Al combinar Artemis con los AI PC de Intel y el enfoque de memoria alternativo de Phison, podemos brindar soporte para cargas de trabajo de IA más grandes y de mayor capacidad sin demandar cada vez más memoria del sistema”.

Phison Electronics es líder internacional en controladores flash NAND y soluciones de almacenamiento, y equipa más de uno de cada cinco SSD que se comercializan en todo el mundo. Phison se ha convertido en una empresa valorada en miles de millones de dólares, con más de 4500 empleados, de los cuales el 70 % se dedica a I+D, y más de 2000 patentes. Entre las innovaciones de la empresa se incluyen aiDAPTIV, una galardonada solución de IA para el entrenamiento y la inferencia de modelos de lenguaje grande (LLM) asequibles en las instalaciones, y Pascari, una gama de SSD empresariales de rendimiento ultraalto diseñados específicamente para cargas de trabajo con un uso intensivo de datos en centros de datos de IA, en la nube e hiperescala.

“Más usuarios y empresas quieren ejecutar IA de forma local, es decir, más rápidamente, con mayor privacidad y sin el coste de enviar todo a la nube”, indicó Jim Johnson, vicepresidente sénior y gerente general de computación cliente de Intel. “Nuestra colaboración con Phison permite que las plataformas IA PC de Intel admitan cargas de trabajo de IA más grandes con configuraciones de memoria más simples, para que los clientes puedan convertir sus propios datos en aplicaciones útiles y valor comercial real a un coste total más bajo”.

Phison, el diseño de Phison y el logotipo de Phison son marcas registradas o marcas comerciales de Phison Electronics o sus filiales en EE. UU. o en otros países. El resto de las marcas son propiedad de sus respectivos titulares. Las especificaciones del producto están sujetas a cambios sin previo aviso. Las imágenes mostradas pueden diferir de los productos reales. Para más información puedes visitar la Web Oficial o seguir las redes sociales oficiales como la Cuenta de Twitter o la Cuenta de Facebook.

Foto del autor

Últimas publicaciones (Autor)

Deja una respuesta