Observer l’écran
L’agent prévu observe le monde à partir des images capturées du jeu. L’expérience repose sur le retour visuel, sans lire la mémoire interne du jeu.
Un agent IA peut-il observer un jeu, essayer une action et apprendre du résultat? Nous construisons une expérience concrète pour explorer cette question et les pistes qu’elle pourrait ouvrir en robotique.
Notre point de départ : The Legend of Zelda: Breath of the Wild sur une véritable Nintendo Switch.
Regardez un extrait enregistré ou passez au direct lorsqu’une diffusion est disponible.
Le direct n’est pas encore connecté. En attendant, choisissez Rediffusion pour regarder l’enregistrement du test de capture.
Enregistrement d’un test du matériel, et non d’une séance de recherche autonome. Extrait sans son. Les commandes du lecteur permettent de lire, de mettre en pause, de naviguer dans la vidéo et de passer en plein écran.
L’agent prévu observe le monde à partir des images capturées du jeu. L’expérience repose sur le retour visuel, sans lire la mémoire interne du jeu.
Un Raspberry Pi Pico envoie des commandes de manette à la Switch. L’objectif est de découvrir leurs effets par des essais et l’observation des résultats.
Nous prévoyons de consigner les actions, les observations et les résultats afin que les réussites et les échecs puissent guider l’expérience suivante.
La capture vidéo et les commandes de base de la manette ont été testées. Le micrologiciel comprend des protections qui relâchent automatiquement les commandes. Le travail porte maintenant sur un service de contrôle fiable et une première séance avec l’IA, à budget limité.
La boucle d’apprentissage autonome est encore en développement. Un enregistrement du test de capture est disponible dans le lecteur ci-dessus. La diffusion en direct et les rediffusions des séances de recherche restent à connecter.
L’observation, le choix des actions, le retour d’information et la reprise après un échec sont aussi des sujets importants en robotique. Nous espérons que ces expériences aideront à explorer l’IA appliquée aux systèmes mécaniques. Le transfert à des robots réels est une piste de recherche, pas un résultat démontré; les mouvements physiques nécessiteront leurs propres essais et protections.
Les agents IA, les expériences dans les jeux ou la robotique vous intéressent? Vos idées, vos questions et vos propositions de collaboration sont les bienvenues.