Risques
Ces facteurs de risques ne sont pas classés en fonction de leur importance ou de leur probabilité mais plus simplement par ordre d'apparition dans les analyses.
Une forme de dépendance à l'outil
- Changement des règles d'utilisation.
Une fois le produit intégré, il pourra devenir exclusivement payant (ChatGPT Pro est proposé aux entreprises et ChatGPT plus est annoncé pour les particuliers US à 20 dollars/mois), lié à des revenus publicitaires (dans un premier temps, ces produits apparaissent sans publicité pour se démarquer du fonctionnement de moteurs de recherches ou de services), réservés à une élite ou une partie (avec des spécificités et des orientations ponctuelles) du monde. - Concurrence : Il demande une infrastructure solide (Elon et Microsoft) et une utilisation intensive de l'outil pourrait faire exploser ses coûts de gestion dans un marché VUCA.
- Attitude : des formes de saturation ou de lassitude liées à des espoirs déçus, des craintes, des handicaps ou des formes de polarisation pourraient éloigner certains publics.
- Situation de quasi monopole des opérateurs privés les plus riches et pas de régulation des états.
- Désinformation (confirmation partielle et partiale de théories, création de fausses images (rubrique text2image) pour illustrer de faux constats ou compte rendus.
Pour éviter ces risques, les utilisateurs devraient se recentrer sur leurs émotions, leur instinct, leur sens critique ou un niveau élevé de compréhension de certains concepts et ne pas se référer exclusivement à un (seul) outil d'IA.
Ces images ont été générées par Dall-e (dans le style de picasso):
un autre outil de OpenAI et par Fuups..
Une mauvaise utilisation
Selon les points de vues, il serait possible :
- de plagier ou tricher (cela a entraîné une interdiction dans l'enseignement à New-York)
- de l'utiliser dans le cadre de désinformation (volontaire ou prétendue involontaire)
- de coder des malwares ou de faciliter le piratage ...
- de communiquer des résultats erronés (quid de la requête et surtout du contexte introduit dans le threat ? )
- d'envisager d'autres détournements de l'outil ou les effets de guerres commerciales (monopoles, attaques)
'Internet nous a rappelé au fil du temps qu'on pouvait surtout avoir peur de l'humain' (presse citron)
FAKE NEWS (génération d'images Midjourney - fausses photos de : pape trump macron)
Un OUTIL QUI ECHAPPE AUX HUMAINS
Avec l'annonce de GPT-5 (AGI) qui confère beaucouo de pouvoir à une IA, on imagine que cela pourrait avoir des conséquences imprévues – des conséquences auxquelles nous n’avons tout simplement pas encore pensé. Cela ne signifie pas que l’apocalypse des robots est imminente, mais cela soulève certainement beaucoup de questions sur les effets négatifs de l’AGI (Artificial General Intelligence)
Dès mars 2023, on voit se multiplier les effets conjugués de différents outils IA (chatgpt génère des prompts pour midjourney, est lié au moteur d'automatisation zapier ...) ce qui rend les résultats de plus en plus imprévisibles.
L'ouverture de ChatGPT à des plugins tiers augmente aussi le risque
https://analyticsindiamag.com/12-plugins-that-make-gpt-4-complete/
Certains spécialistes IA et Elon Musk réclament une pause de 6 mois pour prendre du recul.
Certains indiquaient, dès janvier 2023, que l'IA pourrait détruire le monde (apocalypse mondiale engendrée par des IA voyous) ealors que d'autres (Marc Andreessen) soutiennent qu'elle pourrait le sauver.
Le danger principal pourrait venir des effets incontrôlés de l'utilisation croisée de plusieurs moteurs (un générateur fournissant des résultats à d'autres générateurs pour des résultats en chaîne sans contrôle ou modération, sans trace ou possibilité de correction intermédiaire, sans identification de failles ou biais dans les processus.
Un MANQUE DE REGLEMENTATION
Demande de régulation (certains signataires sont des actionnaires ou développeurs d'IA génératives)
EU : Artificial Intelligence Act
Mise-à-jour 14/06/2023 Le parlement européen a voté en faveur de l'AI ACT
L'europe envisage de nommer un régulateur IA par pays
Non respect des REGLEMENTATIONS EXISTANTES
RGPD : ITALIE(GPDP autorité nationale pour la protection des données personnelles), Ville de Montpellier ... mais déjà bloqué dans plusieurs pays : Chine, Iran, Corée du Nord et Russie
Interdiction de ChatGPT en Italie, un précédent pour le reste de l’Europe ? - Forbes France
Avis du GPDP.IT Intelligenza artificiale: il Garante blocca ChatGPT. Raccolta illecita di... - Garante Privacy (gpdp.it)
voir Wikipedia et : https://www.village-justice.com/articles/chatgpt-rgpd-protection-des-donnees-personnelles,45280.html
Droit d'auteur : casse tête juridique des IA génératives
https://whttps://www.village-justice.com/articles/chatgpt-rgpd-protection-des-donnees-personnelles,45280.html
Copyright : aux USA, il semble que le copyright soit réservé aux humains,
https://www.escienceediting.org/journal/view.php?doi=10.6087/kcse.292
UnE DESTRUCTION IMPORTANTE D'EMPLOIS
Goldman Sachs évoque une destruction possible de 300 millions d'emplois mais une augmentation de 7% du PIB
Nouveaux métiers ?
Su on peut s'interroger sur le statut des travailleurs peu qualifiés qui ont aidé à entraîner les modèles, certains prédisent l'emérgence de nouveaux métiers dédiés comme ' prompt engineer ' ...
Manque de profils pour accompagner cette automatisation (robots ...) ... en Belgique aussi !
https://datanews.levif.be/actualite/les-robots-aux-prises-avec-un-manque-de-personnel-en-belgique-aussi/?utm_term=Autofeed&utm_medium=social_datafr&utm_source=Twitter#Echobox=1679407710
Travailleurs précaires du Sud ?
https://theconversation.com/enquete-derriere-lia-les-travailleurs-precaires-des-pays-du-sud-201503
Un IMPACT SUR LA SANTE MENTALE DES PLUS FAIBLES ?
Eliza
GENERIQUE : Les risques génériques liés à l'Intelligence Artificielle (IA)
cf. diverses conversations avec ChatGPT sur ce sujet
cf. les tweets de Elon Musk sur une IA trop puissante.
cf les considérations sur l'éthique, les biais ...
Impact sur l'emploi (hyperautomation)
Impact sur l'apprentissage (devoirs à domicile)
Les biais et les dérives (problèmes éthiques) mais surtout les erreurs de systèmes IA (Tay de Microsoft et des dbordements qualifiés de racistes ...) imposent de contrôler, de modérer (corrections) ou de réguler (législations) ces systèmes.
L'impact sur l'emploi ne peut pas encore être mesuré, mais certains parlent de travailleurs gratuits ou d'augmentation de la productivité de certains postes à haut niveau de qualification.
Les profils qui concentraient leur activité sur la gestion de l'information (juristes, veilleurs, experts, consultants, développeurs, production artistique liée à l'information) et donc capables de gérer de gros volumes de données en flux devraient perdre de leur avantage concurrentiel quand la majorité des individus pourra exploiter ces outils IA ;-)
Les performances : une consommation exagérée ou des soucis (performances) de réseaux peuvent conduire à ce type de messages ;-)
..
D'après certains tests, il semblerait qu'une connexion câblée sur un bon réseau donnent des résultats plus acceptables.
ChatGPT nécessite une énorme puissance de calcul et le modèle économique pose question.
Certains envisagent aussi la piste de l'illusion (partielle) en considérant que certaines réponses semblent assez banales ou trop neutres ;
Gary Marcus, professeur de psychologie de l'université de New-York
"ChatGPT synthétise tout un tas de choses que les humains ont déjà écrites, parfois pour le meilleur et parfois pour le pire. Parfois, la synthèse est parfaite, parfois elle donne des résultats farfelus. […] Donc tout ce qu’il produit semble plausible parce que tout est dérivé de choses que les humains ont dites. Mais il ne connaît pas toujours les liens entre les choses qu’il assemble.
Ainsi, lorsqu’il réussit, c’est parce qu’il a été entraîné sur un grand nombre de choses similaires dans le texte auquel il a été exposé.[…] Mais cela ne signifie pas qu’il comprend vraiment ce dont il parle, c’est pourquoi il peut aussi faire des erreurs."
GENERIQUE : Les INCOHERENCES DE LA TECH
Est-ce que le monde de la tech est dirigé par des hypocrites ? Élements de réponse (msn.com)
Petit échantillon de toutes les ambiguïtés que nous avons pu entendre et voir récemment de la part des plus grands chefs d’entreprise du monde :
- Le patron de Tesla, Elon Musk, veut faire de Twitter la plateforme où tout peut se dire… mais en Chine, qui est l’un de ses marchés les plus importants, il peut très bien vivre avec la censure que le gouvernement lui impose ainsi qu’au reste du monde.
- Mark Zuckerberg investit des milliards dans la construction du métavers où nous devons tous interagir virtuellement… mais en même temps, il rappelle tous ses ingénieurs au bureau pour se rencontrer physiquement, car les résultats sont bien meilleurs.
- Les sociétés de puces américaines se sont toujours opposées aux subventions publiques que reçoivent les fabricants de puces chinois… mais maintenant, elles font toutes la queue pour profiter des 39 milliards de dollars que le gouvernement américain veut débloquer pour amener la production en Amérique.
- Jason Calacanis, l’un des principaux investisseurs et entrepreneurs du secteur de la technologie, estime depuis des années que les entreprises croulent sous les réglementations gouvernementales… mais il a été le premier à demander que les dépôts au sein de SVB soient assurés par ce même gouvernement.