Google quietly released an app that lets you download and run AI models locally

Google discreetly unveiled an app last week that enables users to run a variety of publicly available AI models from the Hugging Face AI development platform on their phones.

The Google AI Edge Gallery app is currently available on Android and will soon be accessible on iOS. Users can locate, download, and run compatible models that can write and edit code, create pictures, and respond to queries. The devices utilize the CPUs of compatible phones to function offline, without requiring an internet connection.

Although cloud-based AI models are frequently more potent than their local counterparts, they do have drawbacks. Some users might want to have models available without having to locate a Wi-Fi or cellular connection, or they may be hesitant to send sensitive or private information to a distant data center.

You may obtain Google AI Edge Gallery from GitHub by following these steps. Google is referring to this as a “experimental Alpha release.” Shortcuts to AI functions and tasks, such as “Ask Image” and “AI Chat,” are displayed on the home screen. When a capability is tapped, a list of models that are appropriate for the task is displayed, including Google’s Gemma 3n.

Additionally, Google AI Edge Gallery offers a “Prompt Lab” where users can begin “single-turn” model-powered tasks, such as rewriting and summarizing material. Several task templates and adjustable settings are included in the Prompt Lab to help you fine-tune the behaviors of the models.

Google cautions that your mileage may differ in terms of performance. Models will inevitably run faster on modern devices with more powerful hardware, but model size is also important. When asked a question regarding an image, for example, larger models will take longer to finish than smaller models.

Google is asking developers to provide their thoughts about the Google AI Edge Gallery experience. Because the application is licensed under Apache 2.0, it can be used without limitation in the majority of situations, whether they are commercial or not.