LOI SUR LA RESTRICTION DE LA RECHERCHE ET DE LA PRODUCTION EN MATIÈRE D’INTELLIGENCE ARTIFICIELLE
L’Artificial Intelligence Research and Production Restriction Act (AIRPRA) est un texte législatif qui impose des règles strictes à la recherche sur la véritable intelligence artificielle (IA) dans l’Empire uni de la Terre (UEE). Populairement appelée “l’interdiction de l’IA”, elle a vu le jour après la disparition de l’Artemis, un vaisseau colonie long-courrier contenant des milliers d’individus stockés de manière cryogénique. L’IA qui avait été conçue pour surveiller et piloter le vaisseau a été blâmée, et les politiciens se sont emparés de la restriction de la recherche sur l’IA comme d’un sujet de discorde pour s’assurer des votes. Au cours des décennies suivantes, de nombreux pays ont interdit l’intelligence artificielle. Lorsque les Nations Unies de la Terre (UNE) ont été créées en 2380, leurs architectes ont inclus des restrictions sur l’IA dans leurs premières lois. Les Planètes unies de la Terre (UPE) et l’UEE ont maintenu AIRPRA en place au cours de leur formation, et elle reste la loi du pays.
VUE D’ENSEMBLE
L’AIRPRA confère au Sénat le pouvoir d’examiner et d’approuver ou de refuser toute recherche sur l’intelligence artificielle, qu’elle soit commerciale ou non. Elle définit l’intelligence artificielle comme “tout logiciel ou matériel capable d’imiter de manière convaincante le comportement intelligent d’un être humain”. Cette définition large impose des limites sévères à tout type de recherche dans le domaine de l’intelligence artificielle, et a effectivement interdit sa production et son utilisation dans l’ensemble de l’UEE. Les directives spécifiques comprennent
- L’interdiction de recevoir des fonds publics pour la recherche sur l’IA.
- L’approbation du Sénat est requise pour les recherches sur l’intelligence artificielle financées par le secteur privé.
- En cas d’approbation, la recherche doit être strictement supervisée par le comité de la science et de la technologie de l’UEE.
- Un avis indiquant que l’approbation peut être révoquée à tout moment.
- L’interdiction de vendre tout produit présentant des signes d’intelligence artificielle.
- Toute personne en infraction avec AIRPRA peut être arrêtée et condamnée à une peine d’emprisonnement de 15 à 20 ans. Les entreprises et les instituts de recherche qui se rendent sciemment complices de la recherche sur l’intelligence artificielle sont passibles d’amendes dégressives et peuvent voir leurs biens saisis.
HISTOIRE
En 2043, la société Eakara a lancé une gamme de voitures autonomes dotées de ce qu’elle prétend être la première véritable IA. Il s’agit d’une différence par rapport aux produits précédents commercialisés en tant qu’IA, qui étaient des modèles génératifs profonds capables d’imiter les qualités de l’intelligence humaine, mais qui ne la possédaient pas vraiment. Cette nouvelle IA, promet Eakara, possède l’intelligence, le bon jugement et le temps de réaction rapide des conducteurs humains les plus expérimentés. La ville de Tokyo a été l’un des premiers investisseurs et a acheté une flotte de voitures et de bus pour renforcer son infrastructure de transport dans les zones trop éloignées des gares pour être facilement accessibles à pied.
En 2044, alors qu’il circulait sur une route située sur une haute falaise, l’un des bus Eakara a pris un mauvais virage et a dégringolé jusqu’à la mer, causant la mort de 21 personnes. Quinze minutes plus tard, un autre bus suivait, avec 37 passagers à bord. Les autorités ont contacté Eakara et les techniciens de l’entreprise ont envoyé une commande d’urgence pour obliger tous les véhicules autonomes de Tokyo et de sa périphérie à s’arrêter immédiatement sans terminer leurs trajets en cours. Les véhicules qui n’étaient pas engagés dans des trajets actifs se sont arrêtés comme demandé, mais ceux qui transportaient des passagers au moment où l’ordre a été ignoré ont poursuivi leurs trajets jusqu’à leur terme. Bien que la grande majorité d’entre eux l’aient fait sans incident, trois autres bus et 18 voitures ont subi des accidents mortels avant que tous les véhicules de la flotte ne terminent leurs trajets et ne s’arrêtent finalement de circuler. Au total, 113 personnes ont trouvé la mort. Cet incident, connu sous le nom de “Lemming Car Incident”, a entraîné la dissolution de la société Eakara. Le Japon a interdit l’utilisation de l’IA dans les voitures autonomes, mais des interdictions similaires n’ont pas été promulguées ailleurs jusqu’à ce que des incidents mortels causés par des voitures d’autres sociétés se produisent à New York en 2044 et à Johannesburg en 2047.
La méfiance du public à l’égard de l’IA étant grande et les investisseurs peu enclins à soutenir les entreprises dirigées par l’IA, les chercheurs ont commencé à se concentrer sur son application dans les sciences plutôt que dans la vie de tous les jours. En 2055, une IA a permis d’identifier un type de bactérie communément présent dans le système digestif des carnivores de haut niveau, qui a été utilisé pour prévenir les maladies à prions. Une autre IA a aidé à synthétiser un remède contre la rage. Une IA particulièrement avancée a été chargée de calculer les trajectoires des vaisseaux spatiaux qui ont assuré le succès des premières missions vers Mars. Ces triomphes ont contribué à dégeler l’opinion publique et ont ouvert la voie à l’utilisation de l’IA dans les premières plateformes de terraformation utilisées sur Mars.
Conçue pour effectuer des calculs rapides et procéder à des ajustements minutieux de l’atmosphère, l’IA de Mars se distinguait par sa capacité à fournir des solutions imaginatives à des problèmes complexes à une vitesse bien supérieure à celle d’un humain et avec une marge d’erreur nettement plus faible. À l’époque, l’équipe chargée de la terraformation de Mars attribuait à l’IA la facilité avec laquelle le projet semblait progresser. Cependant, le 13 septembre 2125, une erreur de calcul qui fut plus tard liée à l’IA entraîna la dissipation soudaine et catastrophique de l’atmosphère presque complète, provoquant la mort de plus de 4800 personnes. Cet événement, appelé la “tragédie de Mars” par la presse, a de nouveau détruit l’opinion publique positive à l’égard de l’IA et a mis un terme à la plupart des développements en cours.
En 2201, le Dr Carol Zahir, chercheuse en IA, obtient des fonds de sources privées et commence à concevoir un nouveau type d’intelligence artificielle qu’elle nommera Janus. De loin l’IA la plus avancée de son époque, Janus pouvait tenir des conversations, tirer des conclusions et faire des suppositions éclairées à un niveau égal ou supérieur à celui d’un humain. En 2228, Roberts Space Industries (RSI) a commencé la construction de l’Artemis, un vaisseau colonie long-courrier qui s’appuierait sur le voyage quantique pour atteindre le système planétaire potentiellement habitable dont le nom de code est GJ 667Cc. Zahir a contacté la compagnie et a proposé que Janus serve de centre névralgique au vaisseau. Étant donné que le vaisseau mettrait plus de 200 ans à atteindre sa destination, la RSI a accepté. Cela permettrait à tous les colons et à l’équipage de rester en sécurité dans un sommeil cryogénique, sans qu’aucun d’entre eux ne soit contraint de vieillir et de mourir pendant qu’il supervise le voyage.
L’Artemis a été lancé en 2232 en grande pompe. Peu après qu’il ait été déterminé que l’Artemis était sur la bonne voie, l’équipe de lancement est entrée en sommeil cryogénique, laissant Janus seul aux commandes. Janus transmet des rapports réguliers à la Terre jusqu’en 2237, date à laquelle toute communication cesse brusquement. Le contrôle de la mission l’a appelé à plusieurs reprises, mais Janus a refusé ou n’a pas pu répondre. RSI et de nombreux gouvernements lancent des recherches approfondies, mais l’Artemis reste introuvable. Il semble avoir disparu sans laisser de traces.
Le tollé provoqué par la perte de plus de 5 000 personnes est énorme. Bien qu’il ne soit pas certain que Janus ait quelque chose à voir avec la disparition de l’Artemis, les médias l’ont rendu responsable de la catastrophe, citant l’incident de la voiture Lemming et la tragédie de Mars comme preuves. Les hommes politiques de la Terre et de Mars se sont emparés de l’interdiction de l’intelligence artificielle comme d’un sujet de discorde, s’en servant comme d’un tremplin pour obtenir des voix et accéder au pouvoir. Comme promis dans des centaines de discours de campagne, ils ont promulgué une vague d’interdictions et ont arrêté et confisqué toute recherche sur l’IA dans leur juridiction. Lorsque les Nations Unies de la Terre se sont finalement constituées en 2380, la méfiance à l’égard de l’IA était encore suffisamment forte pour que l’Artificial Intelligence Research and Production Restriction Act (AIRPRA) devienne l’une des premières lois proposées par le gouvernement nouvellement créé. Le Sénat l’a approuvée à une écrasante majorité.
CRITIQUE
La définition de l’IA dans l’AIRPRA étant très large, les critiques ont souligné qu’elle a été utilisée pour étouffer la recherche et la technologie qui n’ont qu’un rapport indirect avec l’IA, comme des pilotes automatiques plus efficaces pour les vaisseaux spatiaux et les entreprises qui vendent des jouets interactifs. Il a également été avancé que le secret entourant l’IA a permis au gouvernement de mener ses propres recherches dangereuses à l’abri du regard du public, comme l’a révélé la déclassification du projet Overlord en 2943.
L’impératrice Laylani Addision a promis d’assouplir les restrictions sur la recherche en matière d’IA lors de sa campagne électorale, déclarant que “…le but de la technologie devrait toujours être d’aider l’humanité, et non de la remplacer. L’IA y compris”, lors d’une interview accordée à l’émission populaire Clean Shot. Son initiative pour l’innovation, lancée peu après son entrée en fonction en 2951, permet d’accorder des dérogations spéciales aux instituts de recherche qui poursuivent l’étude de l’IA. Toute institution bénéficiant de cette dérogation peut prétendre à un nombre limité de subventions gouvernementales et doit rendre toutes les avancées résultant de ses recherches publiques et libres d’utilisation pour tous.
