Google lance discrètement une application pour exécuter des modèles d'IA localement sur votre téléphone

Google quietly released an app that lets you download and run AI models locally

Google lance discrètement une application pour exécuter des modèles d'IA localement sur votre téléphone

La semaine dernière, Google a discrètement lancé une application permettant aux utilisateurs d'exécuter une gamme de modèles d'IA disponibles ouvertement depuis la plateforme de développement Hugging Face directement sur leurs téléphones. Baptisée Google AI Edge Gallery, cette application est disponible pour Android et arrivera bientôt sur iOS. Elle permet aux utilisateurs de trouver, télécharger et exécuter des modèles compatibles capables de générer des images, répondre à des questions, écrire et modifier du code, entre autres. Ces modèles fonctionnent hors ligne, sans nécessiter de connexion internet, en utilisant les processeurs des téléphones pris en charge.

Les modèles d'IA exécutés dans le cloud sont souvent plus puissants que leurs homologues locaux, mais ils présentent aussi des inconvénients. Certains utilisateurs peuvent être réticents à envoyer des données personnelles ou sensibles vers un centre de données distant, ou souhaitent simplement avoir accès à des modèles sans dépendre d'une connexion Wi-Fi ou mobile. Google AI Edge Gallery, qualifiée par Google de 'version alpha expérimentale', peut être téléchargée depuis GitHub en suivant ces instructions. L'écran d'accueil propose des raccourcis vers des tâches d'IA comme 'Ask Image' et 'AI Chat'. En cliquant sur une fonctionnalité, une liste de modèles adaptés à la tâche s'affiche, comme le Gemma 3n de Google.

L'application inclut également un 'Prompt Lab' permettant aux utilisateurs de lancer des tâches ponctuelles alimentées par des modèles, comme la synthèse et la réécriture de texte. Le Prompt Lab propose plusieurs modèles de tâches et des paramètres configurables pour affiner le comportement des modèles. Google met en garde contre des performances variables selon les appareils. Les appareils modernes dotés de matériel plus puissant exécuteront évidemment les modèles plus rapidement, mais la taille du modèle joue également un rôle. Les modèles plus volumineux mettront plus de temps à accomplir une tâche, comme répondre à une question sur une image, que les modèles plus petits.

Google invite les membres de la communauté des développeurs à donner leur avis sur l'expérience Google AI Edge Gallery. L'application est sous licence Apache 2.0, ce qui signifie qu'elle peut être utilisée dans la plupart des contextes, commerciaux ou autres, sans restriction. Profitez dès maintenant jusqu'au 4 juin des réductions pour TechCrunch Sessions: AI, avec 300$ de réduction sur votre billet et 50% sur un deuxième. Assistez à des interventions de leaders d'OpenAI, Anthropic, Khosla Ventures et bien d'autres lors d'une journée riche en insights d'experts, ateliers pratiques et networking de haut niveau. Ces offres à prix réduit disparaîtront à l'ouverture des portes le 5 juin. Exposez à TechCrunch Sessions: AI et présentez vos réalisations à plus de 1200 décideurs sans dépenser une fortune. Offre valable jusqu'au 9 mai ou jusqu'à épuisement des places. Pensez-vous tout savoir sur l'IA? Prouvez-le en participant au quiz spécial TC Sessions: AI et gagnez 2 billets pour le prix d'un. Répondez à quelques questions rapides sur l'IA pour commencer votre défi. Offre spéciale valable jusqu'au 4 juin.

Google âm thầm ra mắt ứng dụng cho phép tải và chạy mô hình AI ngay trên điện thoại

Tuần trước, Google đã lặng lẽ ra mắt một ứng dụng cho phép người dùng chạy nhiều mô hình AI mã nguồn mở từ nền tảng phát triển Hugging Face ngay trên điện thoại. Ứng dụng có tên Google AI Edge Gallery hiện đã có mặt trên Android và sắp ra mắt trên iOS. Nó cho phép người dùng tìm kiếm, tải xuống và chạy các mô hình tương thích để tạo hình ảnh, trả lời câu hỏi, viết và chỉnh sửa mã code cùng nhiều tính năng khác. Các mô hình này hoạt động offline mà không cần kết nối internet, tận dụng sức mạnh xử lý của điện thoại được hỗ trợ.

Các mô hình AI chạy trên đám mây thường mạnh mẽ hơn phiên bản chạy cục bộ, nhưng cũng có những hạn chế. Một số người dùng có thể e ngại khi gửi dữ liệu cá nhân nhạy cảm đến trung tâm dữ liệu từ xa, hoặc đơn giản muốn sử dụng mô hình mà không cần kết nối Wi-Fi hay di động. Google AI Edge Gallery, được Google mô tả là 'bản alpha thử nghiệm', có thể tải về từ GitHub theo hướng dẫn này. Màn hình chính hiển thị các phím tắt đến chức năng AI như 'Hỏi về ảnh' và 'Trò chuyện AI'. Khi chọn một tính năng, ứng dụng sẽ hiển thị danh sách mô hình phù hợp như Gemma 3n của Google.

Ứng dụng còn có 'Phòng thí nghiệm lệnh' (Prompt Lab) giúp người dùng thực hiện các tác vụ đơn lẻ như tóm tắt và viết lại văn bản nhờ sức mạnh của mô hình AI. Prompt Lab cung cấp nhiều mẫu tác vụ cùng các thiết lập tùy chỉnh để điều chỉnh hành vi mô hình. Google cảnh báo hiệu năng có thể thay đổi tùy thiết bị. Thiết bị hiện đại với phần cứng mạnh hơn sẽ chạy mô hình nhanh hơn, nhưng kích thước mô hình cũng ảnh hưởng đáng kể. Mô hình lớn sẽ mất nhiều thời gian hoàn thành tác vụ, ví dụ trả lời câu hỏi về hình ảnh, so với mô hình nhỏ hơn.

Google đang mời gọi cộng đồng nhà phát triển đóng góp ý kiến về trải nghiệm Google AI Edge Gallery. Ứng dụng được cấp phép Apache 2.0, nghĩa là có thể sử dụng trong hầu hết ngữ cảnh thương mại hay phi thương mại mà không hạn chế. Đừng bỏ lỡ ưu đãi đặc biệt TechCrunch Sessions: AI từ nay đến 4/6 - giảm 300$ cho vé chính và 50% cho vé thứ hai. Tham gia ngày hội với các bài phát biểu từ lãnh đạo OpenAI, Anthropic, Khosla Ventures cùng nhiều hoạt động workshop thực hành và kết nối chuyên nghiệp. Ưu đãi này sẽ kết thúc khi sự kiện khai mạc vào 5/6. Đăng ký gian hàng tại TechCrunch Sessions: AI để giới thiệu sản phẩm đến hơn 1200 nhà quyết định với chi phí tiết kiệm. Chương trình áp dụng đến 9/5 hoặc khi hết chỗ. Bạn tự tin hiểu biết về AI? Hãy chứng minh bằng cách tham gia đố vui TC Sessions: AI để có cơ hội nhận 2 vé chỉ với giá 1. Trả lời nhanh các câu hỏi trắc nghiệm AI để bắt đầu thử thách. Ưu đãi đặc biệt chỉ đến hết 4/6.