Google ya tiene una app para descargar y ejecutar modelos de IA localmente

Apenas unos días después de organizar su conferencia para desarrolladores Android Show I/O Edition, en la que se presentaron las novedades que llegarían a su sistema operativo a lo largo de este año, Google ha lanzado Google AI Edge Gallery.

Esta aplicación permite a los usuarios ejecutar una variedad de modelos de IA disponibles abiertamente desde la plataforma de desarrollo de IA Hugging Face y ya está disponible en GitHub para quienes utilicen dispositivos con el sistema operativo Android, aunque próximamente también llegará a iOS.

Medios como TechCrunch han avanzado que esta plataforma se ofrece como una aplicación experimental que traslada "el poder de los modelos de IA generativa directamente a tus manos" y se ejecuta completamente en el dispositivo. De ese modo, los usuarios se pueden sumerir "en un mundo de casos de uso de IA creativos y prácticos", que se ejecutan de manera local.

Si bien es cierto que no es necesaria la conexión a internet para poner en marcha estas funcionalidades, Google sí ha avanzado que se debe cargar el modelo previamente. A partir de entonces, los usuarios podrán chatear, hacer preguntas con imágenes y explorar sugerencias por parte de estos modelos.

Desde Google han indicado que también es posible cambiar fácilmente entre diferentes modelos de IA de Hugging Face y comparar su rendimiento, además de que con estos modelos también se pueden resumir y reescribir prompts, generar código o utilizar indicaciones de formato libre para explorar casos de uso de modelos de lenguaje grande (LLM).

Además, con la nueva plataforma de modelos de inteligencia artificial de Google también se pueden probar los modelos LiteRT locales y obtener enlaces rápidos a tarjetas de modelos y código fuente.

Modelos de IA local en solo unos minutos

Para probar Google AI Edge Gallery, es necesario descargar la aplicación y obtener la última APK en el dispositivo, para lo que se emplearán solo "unos minutos". Además, la compañía ha señalado en GitHub que se trata de una versión Alpha experimental.

Entre algunos de los ejemplos de las capacidades de esta aplicación expuestos por Google están la opción de Preguntar por imagen, para que la IA pueda explicar qué ve en una fotografía adjuntada por el usuario, así como hacer un resumen de, por ejemplo, el ticket de una compra.

Otra de las funciones de la plataforma es la conocida como Laboratorio de sugerencias, que los interesados pueden utilizar para iniciar tareas de un solo turno impulsadas por modelos de IA, como resumir y reescribir texto. Esta interfaz, además, incluye varias plantillas de tareas y opciones que se pueden configurar para ajustar el comportamiento de los modelos.

La firma tecnológica también ha señalado, por otra parte, que el rendimiento de estos modelos puede variar, ya que los dispositivos modernos, con un hardware más potente, los podrán ejecutar más rápido, aunque no todo depende de su estructura, sino también del tamaño de los modelos.

De esta manera, los modelos más grandes tardarán más tiempo en completar una tarea, ya que necesitarán muchos más recursos que los modelos de un tamaño más pequeño, tal y como también ha valorado TechCrunch.

Por último, Google, ha dicho que esta plataforma de modelos de IA offline cuenta con una licencia Apache 2.0, de modo que se puede utilizar en diferentes contextos, a nivel personal o comercial, sin ningún tipo de restricción.

Otros artículos interesantes: