Drones et voitures autonomes comme armes : pourquoi nous devons avoir peur des hackers

2024 Auteur: Malcolm Clapton | [email protected]. Dernière modifié: 2023-12-17 03:55

Si l'intelligence artificielle tombe entre de mauvaises mains, le monde civilisé peut plonger dans le chaos.

Personne ne niera que l'intelligence artificielle peut faire passer nos vies au niveau supérieur. L'IA est capable de résoudre de nombreux problèmes qui dépassent le pouvoir des humains.

Cependant, beaucoup pensent que la superintelligence voudra certainement nous détruire, comme SkyNet, ou commencera à mener des expériences sur des personnes, comme GLADoS du jeu Portal. L'ironie est que seuls les humains peuvent rendre l'intelligence artificielle bonne ou mauvaise.

Des chercheurs de l'université de Yale, d'Oxford, de Cambridge et d'OpenAI ont publié un rapport sur les abus de l'intelligence artificielle. Il dit que le vrai danger vient des pirates. À l'aide de codes malveillants, ils peuvent perturber le fonctionnement de systèmes automatisés sous le contrôle de l'IA.

Les chercheurs craignent que des technologies bien intentionnées ne soient endommagées. Par exemple, l'équipement de surveillance peut être utilisé non seulement pour attraper des terroristes, mais aussi pour espionner des citoyens ordinaires. Les chercheurs sont également préoccupés par les drones commerciaux qui livrent de la nourriture. Il est facile de les intercepter et de planter quelque chose d'explosif.

Un autre scénario d'utilisation destructive de l'IA est celui des voitures autonomes. Il suffit de changer quelques lignes de code, et les machines vont commencer à ignorer les règles de sécurité.

Les scientifiques pensent que la menace peut être numérique, physique et politique.

• L'intelligence artificielle est déjà utilisée pour étudier les vulnérabilités de divers codes logiciels. À l'avenir, les pirates peuvent créer un bot qui contournera toute protection.
• Avec l'aide de l'IA, une personne peut automatiser de nombreux processus: par exemple, contrôler un essaim de drones ou un groupe de voitures.
• À l'aide de technologies telles que DeepFake, il est possible d'influencer la vie politique de l'État en diffusant de fausses informations sur les dirigeants mondiaux utilisant des bots sur Internet.

Ces exemples effrayants n'existent jusqu'à présent qu'à titre d'hypothèse. Les auteurs de l'étude ne suggèrent pas un rejet complet de la technologie. Au lieu de cela, ils pensent que les gouvernements nationaux et les grandes entreprises devraient s'occuper de la sécurité alors que l'industrie de l'IA en est encore à ses balbutiements.

Les décideurs doivent étudier la technologie et travailler avec des experts dans le domaine pour réglementer efficacement la création et l'utilisation de l'intelligence artificielle.

Les développeurs, à leur tour, doivent évaluer le danger posé par la haute technologie, anticiper les pires conséquences et en avertir les dirigeants mondiaux. Le rapport appelle les développeurs d'IA à faire équipe avec des experts en sécurité dans d'autres domaines et à voir si les principes qui garantissent la sécurité de ces technologies peuvent être utilisés pour protéger l'intelligence artificielle.

Le rapport complet décrit le problème plus en détail, mais l'essentiel est que l'IA est un outil puissant. Toutes les parties intéressées devraient étudier la nouvelle technologie et s'assurer qu'elle n'est pas utilisée à des fins criminelles.