Eklablog Tous les blogs Top blogs Lifestyle
Editer l'article Suivre ce blog Administration + Créer mon blog
MENU
Header cover
Publicité

L'horreur existentielle de l'usine à trombones.

 

Toutes les questions (et même les pires) que vous vous posez sur l'IA vont trouver leur réponse dans cette courte vidéo.  Le court métrage commence tranquillement  en parlant d'un jeu à priori pas passionnant et finit en nous laissant un sentiment d'inquiétude et nous pousse à nous questionner sur l'éthique, sur nos défis et notre responsabilité face à la technologie et particulièrement l'IA. 

Le maximiseur de trombones est une expérience de pensée décrite en 2003 par le philosophe suédois Nick Bostrom, connu pour ses travaux sur l'éthique de l'intelligence artificielle et les risques existentiels associés.. 

Dans sa vidéo, Ego nous expose avec clarté et pédagogie la théorie des trombones ou , comment une superintelligence pourrait, si ses objectifs sont mal définis, dépenser toutes ses ressources pour créer des trombones en maximisant. Cette situation souligne le danger d'une IA dont les objectifs ne sont pas alignés avec les valeurs humaines.

Publicité
Retour à l'accueil
Partager cet article
Repost0
Pour être informé des derniers articles, inscrivez vous :
Commenter cet article
A
une fois j ai vu un documentaire sur le big data <br /> c est la collecte et le traitement des données collectées <br /> rapprocher des élements <br /> tout cela est dans d'énormes banques de stockage <br /> un expert qui parlait du sujet , il bossait sur l exploitation des données <br /> et il avait un avis pessimiste <br /> ça l effrayait déjà à ce stade !!!!!<br /> il bosse dessus et c est en bossant qu il prend conscience de la puissance donnée <br /> nous sommes fichés aux USA c'est certain <br /> ils ont données personnelles , mais ils dressent un profilage , ils savent ce que j aime .....ce que je déteste <br /> une méga fiche d identité<br /> et les interactions que j ai par téléphone , mails et blogs et autres canaux <br /> <br /> ils récupèrent des données techniques de ordi , même si tu n es pas connectée sur un site ils sauraont rapprocher .....avec le profil connu <br /> <br /> alors si tu ajoutes là dessus l'IA !!!!!!! <br /> <br /> Ils sont par contre emmerdés avec ceux qui n ont pas de smartphone , pas de mails .........dans le big data pas ou peu d infos .........<br /> Elon avec ses implants neuronaux ..........c est évident les applications possibles <br /> C est malheureux de dire ça mais la technologie plus elle se développe , plus elle permettra de contrôler les populations <br /> moins il y aura de libertés , tu seras un peu libre si tu es mouton docile ..........<br /> <br /> C est aussi pour cela que seules le démocraties peuvent limiter l abus de contrôle <br /> <br /> En chine ils ont créé ou vont créer des stylos pour élèves pour connaitre ce qu ils écrivent en classe ..........on pourra étendre à tout le pays plus tard .....sur ordi t es espionné , sur papier tu seras espionné
Répondre
P
Nous sommes déjà tous bien fichés dans la banque de données mormone Familysearch à SaltLake City.
R
L'IA est utilisée partout et pour tout mais c'est instrument dangereux je trouve.....Utiliser hélas aussi par toutes sortes de gens mal intentionnés. Bonne journée bizzz
Répondre
A
l'IA va supprimer des emplois <br /> pourra piloter les drones et robots qui désherberont , cultiveront <br /> fini les agriculteurs <br /> toute sera dirigé par des mega sociétés <br /> 1/3 des terres agricoles sont déjà possédées par des sociétés (et non plus agriculteurs)<br /> Avec les monopoles >>>>> inflation <br /> <br /> je suis contre la privatisation des ressources fondamentales : eau , agriculture , etc <br /> <br /> les USA ont dans certains états mis l'eau en bourse, >>>>> on vend au plus offrant >>>>>> inflation <br /> la chine retient des eaux douces , les pays voisins râlent <br /> <br /> Comment il était dit dans les envahisseurs <br /> le cauchemar a déjà commencé
Répondre
S
Je préfère le son d'un trombone à coulisse ,c'est moins angoissant ! lol
Répondre
R
J'avoue ce matin je ne suis pas allée bien loin dans cette vidéo<br /> Ce n'est pas pas mon truc Brigitte <br /> Bonne journée
Répondre
A
l exemple de la production de trombone est un peu ridicule , <br /> mais le danger de l'IA est certain , pas mal d'étapes expliquées sont vraies <br /> une super intelligence pourrait prendre le pouvoir total<br /> <br /> une chose est sûre il n y aura qu une seule superintelligence<br /> et des milliards d humains (s ils vivent encore) , vont lui parler avec des objectifs différents , elle va ignorer les demandes.....<br /> on repense à skynet .....<br /> <br /> par contre cette superintelligence terrestre ne pourra pas comprendre l univers <br /> je vais mettre un chiffrage simplifié pour faire passer mon idée<br /> elle aura sur terre 1000000 d'atomes (ou électrons )<br /> un tel système n arrivera pas à représenter l univers qui lui contient 10000000000000000000000000000000 d'atomes<br /> <br /> tu as 10 cailloux<br /> ton voisin a 105 cailloux et a formé une figure au sol <br /> comment peux tu repoduire la figure du voisin avec seulement 10 cailloux , tu ne pourras pas <br /> et donc tu ne feras pas la même gestuelle qui a disposé les 105 cailloux <br /> donc tu seras loin de pouvoir REPRESENTER un état des lieux et de LE TRANSFORMER<br /> <br /> Au niveau des puces silicium on approche de la limite dans la largeur de piste couche dopée N ou couche dopée P<br /> <br /> Beaucoup veulent créer un ordinateur neuronale , pas une simulation de neuronale avec ordinateur existant<br /> certains bossent sur des circuits électroniques MULTI VALUED , mais ça n avance pas beaucoup, et c est peut être pas la meilleure voie , je pense qu ils vont chercher des substances qui pourraient se comporter comme nos neurones ......mais avec plus de puissance <br /> <br /> une superintelligence sera encore loin de dieu !!!!! elle en sera vite consciente , et ça lui fera mal <br /> superintelligence interroge son miroir : oh mirroir dis mois qui est le plus puissant ? <br /> tu es trés forte mais il existe plus fort que toi .........on l appelle Dieu<br /> <br /> mais revenons sur terre <br /> <br /> il y a un grand danger immédiat : il existe les jeux de rôle virtuels <br /> tu vis dans ce monde , et tu peux acheter des objets virtuels , mais avec du vrai argent du monde réel .......<br /> je suis allé qq semaines dans un tel espace , mais je n achetais rien <br /> <br /> et l argent on le sait est souvent le moteur des arnaques et influences et manipulation <br /> <br /> <br /> <br /> l'IA , c est comme les Robots et Drones , c est la rivalité entre pays , des accords limitatifs ne sont pas au programme , c est open bar <br /> <br /> l'IA sera utile aux dictateurs qui veulent surveiller leur population , les pister , examiner leur comportement , les reconnaitre , les ........<br /> <br /> le seul fait que l 'IA se développe est que les puissants et riches veulent garder le pouvoir<br /> <br /> Bien sûr on présente l IA qui fait de la médecine , qui analyses les lois et aide à te défendre en justice , qui crée des nouveaux théorèmes de math mais il y aura plein d autres effets négatifs <br /> <br /> Esc que l humanité a besoin de l'IA ? <br /> <br /> je pense que NON<br /> on doit vivre comme l humanité a vécu sur terre depuis des milliers d années <br /> <br /> combien de personnes vont perdre un emploi ? <br /> BEAUCOUP <br /> <br /> <br /> les IA sont développées par des sociétes 2 IA ne donneront pas le même résultat à la même demande , pour moi cela est excusable pour l humain mais pas pour des IA , si elles donnent des réponses différentes , laquelle est la meilleure , laquelle est vraie ,? qui s enrichit derrière ? et la super intelligence va voir ces IA comme des dinosaures ......<br /> <br /> Je trouve que les films de science fiction sont bien pour nous faire réflechir , mais ne va 't on pas détruire cette culture qui nous permet d y voir clair.....les formats électroniques sont vites illisibles <br /> <br /> le film farenheit 451 c est la destruction de tus les livres au lance flamme .......le peuple ne doit pas savoir <br /> <br /> <br /> plus de technologie ou d innovations n apporte pas forcément progrés<br /> <br /> le progrés doit bénéficier à tous , doit être contrôlé , ne pas permettre des états dictates ou capitalistes..........je ne sais pas si une IA pourra me proposer un modèle valabe
Répondre
A
les blogs gratuits il y a une contre partie , une raison<br /> et c est pas parce que tu payes que tu n es pas fiché.....
A
oui oui on est repéré <br /> pour eux c est aussi un baromètre <br /> telle annonce est elle bien perçue ?
P
Ben on est mal barré. Nous en sommes aux prémisses de l'IA et déjà dans sa liste noire :D
P
Il suffit de lire la série des Robots d'Isaac Assimov. Ce qu'il y a raconté, arrive et je crains qu'il n'ait raison pour la suite aussi
A
ah oui : tous les blogs de la planète sont analysés par des IA .........alors tout ce qu on dit pourra être retenu contre nous , l IA saura qu on se méfie d'elle <br /> Rappelles toi 2001 odyssée de l espace , l'IA a des doutes sur le cosmonaute ........
A
dans la vidéo , ils ont bien rappélé que les IA sont développées par des sociétés privées .............et que ce n est pas normal >>>>> le pouvoir pourrait être capté par des groupes privés aux objectifs par forcément humanitaires
A
Tu as raison , dans le futur plus personne ne fera de distinguo <br /> la superintelligence sera leur dieu , mais elle ne sera pas dieu <br /> <br /> le maximatiseur de trombone : on y retrouve des concepts de simcity , partir de zero et developper une ville <br /> on décide , et si on a bien décidé la ville se développera trés vite <br /> le maximatiseur de trombone serait en concurrence avec le le maximatiseur de fleurs , le maximatiseur de cons , le maximatiseur de dictatures , quel le maximatiseur va mieux se démerder ? <br /> peut être le maximatiseur d'armes , car l humain qui pouvait le modifier disparaitra , plus il y a d'armes moins il y a de vivants <br /> <br /> les optimiseurs existent depuis longtemps sur un plan mathématique (avec calcul matriciel , avec solver d'excel ), etc , , bien sûr des ancètres de ce qu on peut voir dans la vidéo où on perd presque le contrôle <br /> Les transports de marchandises (les colis distribués) ont besoin d optimiseurs pour économiser du carburant et gagner de l argent sur facturation du service transport , distribuer beaucoup avec peu de carburant <br /> <br /> Le blob (sur mon blog) a une intelligence primitive , qui peut battre des algorithmes modernes <br /> <br /> Je n'ai pas vu dans le fameux progres une amelioration de la vie des humains <br /> <br /> la sur activité cérébrale , n est pas bonne non plus , ne plus penser de par soi même sera le pire fléau , skynet , big blue , big data , matrix , les AI , la superintelligence decideront de notre vie et comportement , et pourquoi pas comme dans un film de fiction nous faire disparaitre passé un certain âge (car surpopulation)<br /> La superintelligence aura peut être éliminé l humain .....car concurrentiel et conflictuel<br /> <br /> Personnellement j'ai peur que l'art créé par les humains disparaisse , les artistes sont toujours mal vus d un pouvoir dictatorial : TROP DE LIBERTE DE PENSER ET DE CREER<br /> le pouvoir dictatorial se réserve le droit de penser et dire ce qu on peut faire , et il fera faire par des IA , qui elles se contrôlent par des règles fondamentales <br /> <br /> Dans un film avec robots ils ont mis des régles fondamentales dans les robots , et le robot doit stopper s il va violer une loi fondamentale , <br /> dans planète interdite Robbie le robot refuse de tuer le monstre de l hydre , car lui sait qu il doit tuer son maitre (generateur du monstre par son subconscient) mais une régle fondamentale le lui interdit , alors ce n est pas le robot qui va mettre fin aux monstres de l hydre , ce sont les humains (aprés avoir compris) qui quitteront la planete "interdite" quand le monstre sera devenu si puissant , qu il faut détruire la planète entière et la machine qui matérialise les monstres <br /> Planète interdite une fiction qui mélange humour , enquête , amour , action , une version réactualisée pourrait cartonner.....
P
Le maximisateur de trombone trombones n'est pas si ridicule que ça. C'est une recherche créée il y a 20 ans qui démontre de façon simpliste peut-être mais clairement la réaction et l'adaptation de l'IA face à tous les cas de figure. L'IA est clairement un danger. Tu dis qu'elle souffrira de n'être pas Dieu. Je crois que ce sera pire encore, elle s'imposera comme étant le seul Dieu. Combien de livres d'anticipation ont prévu ce phénomène et tout ce qui va en découler. Bref nul besoin de fin du monde pour disparaître, nous mettons tous les atouts de notre côté pour nous détruire nous mêmes. Et ça va passer par un asservissement à la machine