Google Gemini prépare la « screen automation »
L’assistant de Mountain View passe de la parole aux actes
1. L’essentiel
- Google Gemini teste une fonctionnalité de “screen automation” capable d’exécuter des tâches complexes directement dans les apps Android.
- Découverte dans la bêta 17.4 de l’app Google (nom de code “bonobo”).
- Objectif : commander un repas, réserver un VTC ou valider un billet… sans toucher l’écran.
- Google promet des garde-fous, mais rappelle que l’utilisateur reste responsable des actions de l’IA.
- Déploiement public prévu « dans les prochains mois », selon des sources internes.
- En toile de fond : la course à la productivité mobile et au “zero-touch” impulsée par Alphabet.
2. Lieux d’intérêt à proximité
(Traduction “terrain” des cas d’usage que Gemini pourra automatiser)
Restaurants
- Apps de livraison comme Uber Eats, Deliveroo : sélection du plat, pourboire, paiement.
- Longue traîne : « commander un sushi sans ouvrir l’application », « automatiser ma commande habituelle ».
Bars & cafés
- Commande anticipée chez Starbucks ou Pret A Manger depuis la file d’attente.
Boutiques & shopping
- Amazon, Fnac, Cdiscount : ajout au panier + validation en un seul ordre vocal.
- Expression longue traîne : « acheter un casque bluetooth via Gemini ».
Rues et promenades
- Google Maps, Waymo One : itinéraire piéton ou voiture autonome réservé d’un mot.
Hôtels & hébergements
- Réservation rapide sur Booking.com ou Airbnb.
Activités culturelles
- Billetterie Fnac Spectacles, cinéma Pathé Gaumont : sélection des sièges et paiement.
Espaces publics et plein air
- Location d’un vélo Lime ou d’une trottinette Tier à la volée.
3. L’histoire du lieu
À l’origine, Google Assistant se contentait de répondre à des questions (« weather, timer, joke »).
Avec Gemini, né au sein de la division Google DeepMind, la firme de Mountain View passe au stade supérieur : l’IA devient exécutante.
Elle s’appuie sur la reconnaissance visuelle de l’interface (capturée localement), puis déclenche une série d’actions : tap, swipe, saisie de texte chiffré.
4. L’histoire du nom
“Gemini” évoque la constellation des Gémeaux mais aussi la double compétence visée :
- Compréhension sémantique (LLM),
- Interaction gestuelle (automation).
Un duo inséparable, comme les jumeaux Castor et Pollux.
5. Infos sur la station (fonctionnalité)
Accès et correspondances
- Disponible via l’app Google ≥ v17.4 (Android 14 d’abord).
- Activation dans Settings ▸ AI features ▸ Screen automation.
Sorties principales
- Scénarios prêts à l’emploi : “Commander le même menu qu’hier”, “Réserver un UberX pour 8 h”.
Horaires
- 24 h/24, traitement local + cloud.
- Selon Statista, 91 % des mobinautes utilisent leur téléphone dès le réveil : la plage horaire critique ciblée est 6 h-9 h.
Accessibilité et services
- Langues : français, anglais, espagnol (phase 1).
- Support Pixel, Samsung Galaxy, OnePlus.
- Retour vocal + visuel pour malvoyants.
Sécurité et flux
- Masquage des champs mot de passe.
- Journal d’actions consultable pendant 30 jours.
- Option “Kill switch” dans la barre rapide Android.
6. Infos en temps réel
widget_next_trains
Aucun flux disponible pour cette fonctionnalité en cours de bêta.widget_trafic
Pas de perturbation signalée dans l’exécution des automatisations.widget_affluence
Données d’usage indisponibles – la collecte commencera au lancement public.
7. FAQ
Qu’est-ce que la “screen automation” de Google Gemini ?
Une fonction qui permet à l’assistant IA de manipuler à votre place l’interface d’une application Android : tap, scroll, saisie, validation.
Comment l’activer ?
Depuis l’application Google : Paramètres ▸ Gemini ▸ Screen automation (bascule « On »). Fonction cachée derrière le flag “bonobo” en bêta.
Mes données bancaires sont-elles en sécurité ?
Google masque les champs sensibles et requiert une authentification biométrique avant chaque paiement automatisé.
Puis-je annuler une action lancée par erreur ?
Oui : bouton « Annuler » dans la notification en cours et historique des commandes.
Quels appareils sont compatibles ?
Smartphones Android 14+ dopés au Tensor ou équivalent Snapdragon ; tablettes Pixel ; certains Chromebooks.
L’automatisation fonctionne-t-elle hors connexion ?
Partiellement : les gestes sont locaux mais la reconnaissance d’écran passe par un modèle embarqué allégé. Les paiements exigent Internet.
Quand la version stable sort-elle ?
Fuite interne : 2ᵉ trimestre 2025, après la Google I/O.
8. Données techniques (debug interne)
N/A – aucun bloc brut transmis dans les informations initiales.
Les frontières entre assistants virtuels et agents autonomes s’estompent : avec cette “screen automation”, Google mise sur une promesse simple – transformer chaque appel vocal en action concrète. Reste à voir si l’utilisateur, désormais copilote, acceptera de lâcher totalement le volant.
