Document ID: /fineweb-2-swissfilter-quality_10-filterrobots/filtered/06927.jsonl.gz/292

Une spin-off de l'ETH Zurich reçoit 2,8 millions de dollars US pour une IA digne de confiance
Six mois après sa fondation, LatticeFlow, une spin-off de l'ETH Zurich, a reçu 2,8 millions de dollars de deux investisseurs en capital-risque. L'objectif de cette démarche, comme le révèle la nouvelle société dans un communiqué de presse, est de soutenir sa vision ambitieuse d'assurer une IA fiable et digne de confiance. Selon les fondateurs de la société, surmonter ce défi stratégique permettra d'utiliser la technologie de l'IA en toute sécurité.
Bien que des progrès significatifs aient été réalisés dans le développement de l'intelligence artificielle au cours de la dernière décennie, de nombreux modèles d'IA sont encore dépassés lorsqu'il s'agit d'une utilisation productive dans le monde réel, en dehors des environnements de recherche contrôlés. Cela peut entraîner des erreurs et des comportements indésirables. Prenons l'exemple d'un système d'aide à la conduite qui interprète mal un panneau de stop dans des conditions de lumière difficiles - lorsque le soleil brille sur la caméra, par exemple - ou parce que le panneau de stop est combiné avec d'autres panneaux.
La spin-off améliore les modèles d'IA
«Notre mission est de combler ce fossé et de permettre aux entreprises de développer et d'utiliser une IA digne de confiance», explique Petar Tsankov, co-fondateur et PDG. Pour y parvenir, l'entreprise dérivée développe un produit qui évalue la robustesse et la fiabilité des modèles d'IA, tout en fournissant des informations utiles sur la manière de les améliorer et de garantir la sécurité. «La première étape pour améliorer la fiabilité des modèles d'IA est la capacité d'évaluer de manière exhaustive les modèles pendant le développement et le déploiement», déclare Pavol Bielik, co-fondateur et directeur technique.
Les professeurs d'informatique Martin Vechev et Andreas Krause, également co-fondateurs de la société, se concentrent sur la recherche et le développement de principes de technologies d'IA fiables au Centre d'IA de l'ETH Zurich. Le système ERAN développé par le Martin Vechev et son équipe a, par exemple, remporté l'année dernière un concours basé sur la question de la certification de la sécurité de l'intelligence artificielle, surpassant ainsi des équipes du MIT, d'Oxford, de l'Imperial College London, de l'UIUC et d'ailleurs. «Nous aimerions utiliser les retombées pour aider à transférer la technologie développée à l'ETH Zurich à l'industrie», explique Andreas Krause, directeur du centre d'intelligence artificielle de l'ETH Zurich.
L'intérêt de clients prestigieux
Diverses institutions telles que les Chemins de fer fédéraux suisses (CFF), l'armée américaine et l'Office fédéral allemand pour la sécurité de l'information (BSI) travaillent déjà avec LatticeFlow. Ilir Fetai et Andre Roger, qui dirigent le centre de compétence «Perception des machines» des CFF, commentent : «L'apprentissage des machines (AM) est une question centrale pour les CFF, car nous voyons un potentiel important dans son utilisation pour la surveillance améliorée, intelligente et automatisée de notre infrastructure ferroviaire. Ce projet visant une IA robuste et fiable avec LatticeFlow, l'ETH Zurich et Siemens joue un rôle important dans la réalisation réussie des avantages de l'AM». LatticeFlow prévoit maintenant de poursuivre le développement de son produit grâce aux nouveaux fonds qu'elle a reçus.