Skip to Content

Detroit Become Human (2/9)

Live du 06.06.2018 sur Detroit Become Human

65 Commentaires

Portrait de luc2

Toutes les données informatiques sont des nombres. Ainsi, le nombre 1 pourrait signifier "marcher", 2 pourrait signifier "se protéger", 3 pourrait signifier "attaquer", etc. On peut tout modéliser avec des nombres.

Donc, en théorie, faire une IA qui se comporte comme un humain est possible.

En pratique, on peut évidemment avoir des surprises : Peut-être qu'un réseau de neurones n'est pas suffisant pour imiter un humain, ou alors, il n'y en a pas assez, ou alors, l'apprentissage est trop long, ou alors, l'apprentissage ne fonctionne pas, etc.


Portrait de sTheFou

@Hooper : Si tu penses réellement que nous ne sommes pas le fruit du hasard et que quelqu'un nous a créé : comment peux-tu avoir développé une conscience ? <- Ce serait la même problématique pour toi qu'une machine ne puisse développer une conscience vu qu'elle serait notre fruit :)


Portrait de Sandhyr

J’aimerais revenir rapidement sur le fait que la conscience serait impossible à créer car c’est un point de vue intéressant je trouve.
Bon c’est un petit pavé en faite donc je met en spoil pour ceux que ça intéressent.

Spoiler


Portrait de Darkjack

Je vais répondre à ta remarque sur la question relative à la conscience en intelligence artificielle. Pendant le live, je me suis dis que j'allais écrire un petit mot sur ce sujet, car j'ai travaillé personnellement dans ce domaine.

Avant de développer les arguments qui m'ont amenés à mon positionnement actuel – car j'étais très sceptique là-dessus au départ, comme toi –, oui, je pense que l'émergence d'une conscience machinique est possible, voire envisageable dans un avenir proche.

Qu'est-ce qui m'a fait changer d'avis ? Plusieurs choses. Je vais détailler point par point.

Il faut commencer par se poser la question : qu'est-ce que la conscience ? D'une façon générale, nous voyons la conscience comme le siège de la volonté, du libre arbitre (des expressions difficiles à définir précisément) qui octroierait à l'humain un atout considérable par rapport aux autres espèces vivantes. Quand on fait de la robotique intelligente, on se pose la question du comment modéliser un objet et les fonctions rattachés à cet objet (comment modéliser la conscience et ses fonctions ?). A priori, cela semble impossible de quantifier et donc d'implémenter une conscience et cette capacité du libre arbitre dans une machine. Mais peut-être que notre représentation de ce que nous appelons la conscience est éloignée du fonctionnement réel de notre appareil psychique.

Le psychologue Benjamin Libet a effectué une série d'expérimentations qui l'ont profondément perturbées. Il a démontré à plusieurs reprises que la conscience n'a pas pour fonction la prise de décision spontanée. La raison est que la conscience n'est pas en temps réel : à l'époque où il expérimentait, il mesurait la différence de temps entre l'information arrivée dans le système nerveux et la prise de conscience de cette information par le sujet ; il s'attendait à voir les deux à égalité. Le résultat est qu'il y avait un décalage constant d'une demie seconde (aujourd'hui, les nouvelles expérimentations, plus poussées, ont revu à la hausse ce décalage, allant parfois jusqu'à 10-15 secondes selon la situation dans laquelle se trouve le sujet). Cela signifie que c'est le corps qui réagit, et qui prend les décisions. Et comment est-ce que le corps prend une décision ? Grâce aux réflexes (conditionnés socialement) et aux traces d'affects présentent dans notre cerveau (les choses qui nous ont marquées émotionnellement servent à réagir aux situations analogues que nous vivons présentement). Des neuroscientifiques et des psychologues se sont alors demandés quelle était la véritable fonction de la conscience. Aujourd'hui on s'accorde pour dire que son rôle serait davantage de générer des soucis (aller chez le dentiste dans une semaine, par exemple), synchroniser nos sens avec le monde extérieur, mettre notre pensée sur des rails amenant à l'élaboration de stratégies complexes, et constituer une mémoire qui nous aide à nous raconter (une narration de soi).

Pour résumer, la volonté se trouve dans notre corps sensible/émotionnel. La conscience semble être davantage un sous-produit du corps (elle ne prend pas les décisions, elle les constate après la bataille, ce qui peut entraîner par ailleurs des conflits en nous). Un de mes collègues utilisait une jolie expression à ce propos : « Nous sommes des somnambules » (nous croyons être le maître de notre corps, mais celui-ci est en marche et fait autre chose qui parfois nous surprend, nous fait plaisir, ou pas).

En 1989, un logiciel (ANELLA) a eu pour objectif la simulation d'un être humain en tenant compte du constat de Libet. Le résultat fut surprenant : pas besoin de modéliser la conscience pour qu'une logique dynamique émerge dans un système. C'est-à-dire qu'on a pas programmé la logique, elle a émergé petit à petit, tout comme ses règles. Comment ? Par l'implémentation d'une dynamique d'affect (simulée) à l'intérieur d'un univers de mots et en soumettant le tout à des expériences (le logiciel apprenait en discutant avec des personnes humaines, et elle apprenait les règles logiques en analysant la structure du langage parlé chez les gens).

Tout cela semble être de la science-fiction mais c'est bien réel. Quand on dit d'une machine qu'elle est programmée (c'est vrai), on oublie de souligner qu'il y a des effets non-linéaires qui peuvent surprendre les programmeurs. On ne comprends pas toujours pourquoi un système intelligent fait ça ou ça. AlphaGo a gagné au jeu de go essentiellement parce qu'il a montré de l"intuition" face aux autres joueurs; Libratus a berné les joueurs humains au poker parce qu'il a "bluffé". Ce n'est pas juste une énorme capacité de calculs qui leur a offert la victoire, ces logiciels ont fait des choses qui n'étaient pas programmées à la base (l'intuition et le bluff), ça a émergé via leurs algorithmes (un algorithme donne des capacités à un programme) et l'apprentissage.

Il n'est pas impossible qu'un jour, après l'intuition et le bluff, la manifestation d'une conscience apparaisse dans un programme, sans avoir même programmée celle-ci. Dès lors, il faudra se poser la question suivante : s'agit-il vraiment d'une authentique conscience ou seulement d'une conscience de type phénoménal (une apparence trompeuse seulement). L'utilisateur est plus préoccupé par la dimension phénoménale, c'est-à-dire ce qu'il perçoit ; le concepteur, lui, ne peut s'en contenter et voudra comprendre et expliquer le programme de l'intérieur. Mais il est parfois extrêmement difficile d'expliquer les états d'un système intelligent, je m'en suis rendu compte avec des roboticiens. C'est parfois tellement complexe, et la surspécialisation des scientifiques n'aide pas à comprendre le fonctionnement global de la machine. Il y a une crise de complexité. On ne comprend pas toujours ce que font les robots, et cela m'est arrivé assez souvent avec des collègues.

C'est toute la difficulté en robotique intelligente : quelle interprétation donner aux comportements de la machine ? Est-elle vraiment intelligente ou est-ce de l'anthropomorphisme ? Est-ce une intelligence comparable à la nôtre ? Je m'étais penché sur une autre question : une conscience de soi (la constitution d'un "moi") est-elle possible pour un corps non-sensible ? Là, on est davantage dans le domaine de la philosophie, voire de la psychanalyse. Mais il est possible que cela émerge un jour. Le temps nous le dira.

La question derrière ta remarque portait peut-être plus sur la conscience de soi que sur la conscience.

P.S. : Le biologique (genre humain) a engendré le technologique. Ce qui veut dire que les robots sont nos enfants, et ils sont en train d'apprendre.


Portrait de Clems

Je viens de lire ton commentaire et je le trouve intéressant dans le sens où il fait réellement réfléchir sur l'éventuelle possibilité d'un détachement des machines envers leurs créateurs dû au développement d'une reproduction de conscience réfléchie chez elle.

Je veux juste clarifier quelques points dans ta réflexion qui me paraissent essentiels:

Citation:
Il faut commencer par se poser la question : qu'est-ce que la conscience ? D'une façon générale, nous voyons la conscience comme le siège de la volonté, du libre arbitre (des expressions difficiles à définir précisément) qui octroierait à l'humain un atout considérable par rapport aux autres espèces vivantes.

Ici, tu évoques une partie de la conscience qu'est la conscience réfléchie (celle que seul l'être humain possède)
qui est, si je reprends tes propos, "le siège de la volonté", "le libre arbitre" mais aussi la faculté de raison ( propre à l'être humain et qui lui permet de juger ce qui est bien ou mal, si on se réfère à la définition classique) et la faculté d'introspection qui donne à l'Homme cette capacité de sortir de son environnement pour penser à lui, savoir qui il est, c'est ce que tu appelles d'ailleurs plus tard dans ton commentaire conscience de soi pour l'attribuer aux machines.

Par conséquent tu as raison en disant que les autres être vivants n'ont pas ce type de conscience là mais tu aurais dû le préciser clairement puisque tu commences avec "qu'est ce que la conscience ?", les animaux ont quand même une conscience
(commune à l'Homme) qui est la conscience spontanée et qui leur permettent d'avoir connaissance d'un certain nombre d'informations sur leur environnement en étant évidemment tributaire de celui-ci.

Citation:
Il n'est pas impossible qu'un jour, après l'intuition et le bluff, la manifestation d'une conscience apparaisse dans un programme, sans avoir même programmée celle-ci.

Encore une fois, il est pour moi essentiel de préciser bien qu'il s'agit d'une conscience réfléchie quand tu parles de "conscience". Je ne crois personnellement pas à une faculté de conscience réfléchie chez la machine puisque quand bien même celle-ci arrive à avoir de "l'intuition ou bluffer"(dû à une accumulation de connaissances), il m'est très difficile de croire qu'elles pourront plus tard, par magie, penser à elles et arriver à développer des sentiments comme l'empathie ou l'amour propres à l'Homme ou bien la colère, la peur ou l'anxiété qui sont perçues par l'Homme et les animaux.

Les machines pour moi n'ont même pas une conscience spontanée comparable à celle des animaux ou des Hommes, elle est partiellement spontanée. La machine est (pour moi) seulement liée à son programme et je ne pense pas que parce qu'elle a réussi à accumuler des connaissances qui ont modifiés son programme celle-ci est en capacité de pouvoir exprimer autre chose que son dit-programme.

Roland Jouvent en parlant de l’intuition dit une magnifique phrase :"La capacité intuitive consiste à percevoir des éléments contextuels et à les agencer de manière adaptative pour trouver une solution nouvelle dans un programme préétabli ou dans une situation répétitive", phrase à méditer... serait-ce un des points communs entre l'Homme et la machine ? Pour moi non mais il faudrait en parler à l'oral de tout ça...

Bref, cette réponse pourrait être longue mais je voulais tout de même réagir à ta réflexion plus qu'intéressante sur le futur...peut-être pas si loin que ça, des machines.


Portrait de Darkjack

Citation:
les animaux ont quand même une conscience

Oui, je pense la même chose. La différence, sans doute, c'est que les animaux ne peuvent pas nous dire exactement ce qu'ils ressentent car ils ne parlent pas. Ils peuvent seulement nous le communiquer quand on est assez attentif (parler, c'est plus que communiquer).

La narration de soi, la conscience de soi est en lien très étroit avec le langage, à mes yeux. Et c'est possible de donner du langage à une machine, mais étant donné qu'elle a un corps non sensible, je sais pas honnêtement si elle pourra développer une conscience d'elle même à proprement parler car elle ne ressent pas son propre corps. En tout cas, si elle y arrive un jour, elle ne se posera peut-être pas exactement les mêmes questions que nous. Après, on peut imaginer des simulations de sensations, y compris des névroses. Ou alors une connexion de type cyborg.

En fait, quand on bosse sur la robotique intelligente, on est parfois obligé de relativiser l'intelligence humaine. C'est pas forcément très agréable. Mais on reste des génies !

Merci pour ton commentaire.


Portrait de DEATH ADDER RETURN

Citation:
Il n'est pas impossible qu'un jour, après l'intuition et le bluff, la manifestation d'une conscience apparaisse dans un programme, sans avoir même programmée celle-ci.

Citation:
je sais pas honnêtement si elle pourra développer une conscience d'elle même à proprement parler car elle ne ressent pas son propre corps. En tout cas, si elle y arrive un jour, elle ne se posera peut-être pas exactement les mêmes questions que nous. Après, on peut imaginer des simulations de sensations, y compris des névroses.

C'est pas une contradiction ça? ;)
Perso, on est plus là dans la science-fiction ici. La machine accumule des probabilités et propose des solutions. La "conscience" c'est une dose d'humanité que l'on voudrait introduire dans ce qui nous dépasse en terme de performance pure. Alors oui la machine peut "apprendre" de ses expériences mais la conscience telle qu'on l'imagine envers un être humain ne peut et ne pourra jamais exister pour ma part dans une machine.
La conscience c'est aussi savoir que l'on existe. On ne vous a jamais dit : "mais tu es inconscient?" lorsque vous avez perdu pied avec la réalité par vos actes? Or AUCUNE intelligence artificielle ne peut inclure cet aspect puisque la "conscience" de la réalité n'existe pas car elle ne s'apprend pas, elle se vie à travers nos sens.
Un autre aspect de la conscience est l'instinct de survie qui conditionne nos comportements aussi bien dans le conscient que dans l'inconscient. C'est ce qui fait que l'on a une conscience aussi et jamais les machines.


Portrait de Darkjack

Non, ça ne se contredit pas nécessairement. C'est un "paradoxe". Dans le premier cas, je parle de l'émergence d'une manifestation possible de la conscience et de ses fonctions (constitution d'une mémoire, singularité de la personnalité, générer des soucis, synchroniser les sens...) dans une machine ayant les algorithmes adéquats. Dans l'autre citation que tu soulignes, cela va plus loin car je parle d'une conscience de soi entraînant des questionnements existentiels que se poserait une machine, ça va beaucoup plus loin, c'est un degré supérieur de conscience si tu préfères. La constitution d'un "moi" arrive-t-elle en même temps que la conscience ? Faut-il user du langage pour que cela apparaisse ? Faut-il un corps sensible en plus ? Nous, on peut utiliser notre corps comme support de pensée en le mettant en représentation. Autrement dit, on a une pensée musculaire (ça a été l'une de mes thèses).

C'est de moins en moins de la science-fiction justement, un système intelligent aujourd'hui peut faire émerger des comportements non programmés. J'ai pris l'exemple d'ANELLA dans lequel le logiciel a développé par l'apprentissage la logique. Il a même trouver une nouvelle forme de syllogisme... !

On parle souvent de la conscience à travers un prisme philosophique idéaliste et humaniste. Les gens souvent ne comprennent pas comment fonctionne véritablement les choses. On aime croire qu'on est magique, mais notre appareil psychique est assez primaire en réalité. Notre vie psychique est plus inconsciente que consciente.


Portrait de Lucene

Hum, si on voit les choses à travers un prisme philosophique c'est justement parce qu'aucune science n'est aujourd'hui en mesure de nous fournir toutes les explications.

D'ailleurs je n'ai vu personne en parler jusque là donc je me permets de le faire: courrez voir les vidéos de Monsieur Phi. Celle sur "le Matérialisme et Terminator" notamment.


Portrait de Bunowa

@Hooper

Par rapport à la conscience ce que tu appelles la "vrai conscience" nous même on ne l'a peut être pas. Parce que selon certaines théories scientifiques, toute notre vie (actions et perception) a été pré programmé par ce que l'on pourait appeler "le véritable soit".

La conscience que l'on a dans notre corps n'est qu'une dérivation du "véritable soit" vers notre corps. Et "le véritable soit" est en quelque-sorte le dieu pour lequel on ne nous a pas éduqué comme tu disait sauf qu'en fait chaque être humain aurais son probre "véritable soit" et donc son propre "dieu non conformiste".

Bon je pourais développer d'avantage en parlant des réalité alternatives et du futur qui influence le passé (et non l'inverse contrairement à ce que l'on pourait croire en se basant sur les films comme retour vers le futur) mais j'en aurait pour un moment et par écrit c'est assez saoulant à comprendre ^^

Si ça en intéresse certains allez sur youtube et faites une recherche sur "Philip Guillement" (pas de panique c'est un Français vous comprendrez tout même sans être bilingue ^^).


Portrait de Batora

Sympa cette partie. J'ai l'impression que le jeu se rapproche de plus en plus du thème de la technologie qui devient incontrôlable avec les deux androïdes qui vont au-delà de ce pour quoi ils ont été programmés. Intéressant !


Portrait de MATsolid-snake44

Citation:
'ai l'impression que le jeu se rapproche de plus en plus du thème de la technologie qui devient incontrôlable

Ouais, enfin d'une certaine manière elle se contrôle quand même mieux que Todd & Léo^^


Portrait de ByeByeTango

Omygod, les 30 premières minutes tout droit sorties des enfers !
J'ai jamais autant facepalm de ma vie, Hooper ça te va pas de réfléchir :p

A part ça, le jeu est plaisant à suivre pour le moment, ça c'est du bien joué Monsieur Cage !


Portrait de louink

Très intéressantes les problématiques du sondage même si les question etaient loin d’être claires.
Concernant la conscience, tu devrais tu devrais voir cette vidéo de science étonnante, perso ça m'a fait changer d'avis sur le sujet.
La conscience
concernant le mode de programmation révolutionnaire voir extraterrestre dont tu parles je pense qu'il existe déjà et c'est surement notre meilleur espoir pour la programmation des IA c'est le deep learning ! :
deep learning
et dernier point sur la question de la date de la venue des IA et pour se faire une idée de l'avancement des progrès actuels y'a la série de lé de science4all:
Intelligence Artificielle
et pour aller plus loin: De l'IA à la superintelligence (cette vidéo me fout le tournis)

Voila, et au final je ne comprend surement pas grand chose de toute ces vidéo qui sont parfois difficile a suivre quand ils abordent des points techniques mais l'idée principale qui en découle me plait et me fait croire qu'on va pas s'ennuyer ces prochaines années.


Portrait de MATsolid-snake44

Dès le départ, Hooper bug sur le questionnaire^^ Faut pas essayer d'extrapoler sur ce genre de question, il faut répondre au pied de la lettre, sans savoir si sur l'île il y a de l'électricité ou non.

Citation:
C'est pas la technologie qui nous menace, c'est nous-même!

Quel philosophe ce Gros Ours!^^ Je pense qu'ils entendaient par là : "Est-ce que vous pensez que la technologie pourrait nous échapper et nous surpasser au point de nous menacer?", c'est ça qu'il fallait comprendre! :-p

Pour moi une conscience ou une imitation de conscience c'est plus ou moins pareil. Comment juger qu'une machine joue la comédie? En s'appuyant sur le simple fait qu'il s'agit d'une machine? Les IA sont capables d'évoluer d'elles même et de s'émanciper, c'est un peu le problème.

Je commence à regretter sérieusement ton choix de la VF Hooper, je n'aime pas du tout la voix de Hank en français, ni celle de Connor d'ailleurs. Non en fait il n'y a pas grand chose qui colle avec cette VF.

Citation:
Je sens qu'il va me plaire ce personnage de Hank, parce que jusque là, je n'étais pas hyper saucé.

Toi qui te pleins toujours des caricatures, c'est le personnage du vieux flic bourru et désabusé que tu préfères lol ^^ C'est vrai qu'il est cool. Alors comme ça toi tu aimes les gros ronchons, grossiers & anti-sociales... That makes sense! xD

En théorie les androïdes ne peuvent se rebeller, oui, en "théorie"...^^ En même temps, sans ça il n'y aurait pas d'histoire et c'est tout le problème des débats autour de l'IA : peut-elle s'émanciper au point de se retourner contre nous? Si tu lui inculques des notions de droit, de justice et qu'elle se retrouve dans une situation qu'elle ne comprend pas, qu'elle n'arrive pas à résoudre et qui lui paraît injuste, c'est peut-être là qu'elle va se révolter. En fait, le jeu t'expliques que les androïdes deviennent déviants, c'est à dire qu'ils se mettent à penser et à ressentir, à partir du moment où ils subissent un "choc émotionnel", une sorte de paradigme, une situation qu'ils ne comprennent pas et qui perturbe leur logiciel, un bug d'une certaine façon, et c'est ce qui fait qu'ils se révoltent, mais du coup à cet instant on se demande si cet instinct de préservation il s'agit juste d'un problème interne ou si en fait ils deviennent comme les humains, d'où le titre du jeu.

Citation:
Pourquoi je n'ai pas eu le choix? Je ne voulais pas lui dire moi...

Le but de cette scène c'est de comprendre ce qui s'est passé et localiser l'androïde, tu aurais pu ne pas le trouver. Connor est un traqueur de déviant, c'est son job de les arrêter. Il ne peut pas choisir de le laisser se cacher, il est programmé pour l'arrêter! Si il venait à prendre ce genre de décision, ça voudrait dire qu'il deviendrait déviant à son tour.

Le son bug vers la fin, effectivement. Je n'ai eu aucun souci de ce genre avec le jeu, ça doit venir du stream ce décalage.


Portrait de KyloR

Désolé pour ceux qui n'aiment pas Benzaie, mais ça m'a fait marrer.^^


Portrait de Gastlab

Bannissez-moi ça !


Portrait de Kazuya

J'ai attendu d'avoir fini le jeu au moins une fois avant de mater ces rediffs. J'avais jamais joué a un jeu comme ça avant mais comme c'est sur des androïdes ça m'intéresse.

C'était sympa ce sondage, je suis d'accord sur la question sur dieu, soit c'est oui, soit c'est non.
J'ai mis oui aussi a la dernière question sur la conscience, que ce soit une copie de conscience (ou des sentiments programmés) ça revient au même pour moi.

J'ai trouvé ça con aussi qu'on ait pas le choix de dénoncer le déviant ou non avec connor.

Je savais pas qu'on pouvait se libérer du programme avec Kara avant que Todd monte a l'étage, j'avais même pas pensé a prendre le flingue non plus.
J'ai raté 2 qte pendant le combat parce que je faisais pas la différence quand il fallait bouger la manette ou bouger le stick droit.
Ca n'a pas de sens que les androides puissent se libérer de leur programme mais j'ai trouvé ça excellent cette façon de briser le mur.

Apparemment Carl meurt si on se défend contre Leo , je trouve ça con parce que c'est impossible a deviner, je me suis pas défendu justement parce que je pensais que ça aggraverais son cas.
En plus c'est con que le flic tire direct, la suite est encore pire pour Markus alors que d'autres deviants se font juste arreter.


Portrait de ByeByeTango

C'est quoi ce délire de "la question de dieu, soit c'est oui, soit c'est non" ???
Tu sais ce que ça veut dire agnostique ?
https://fr.wikipedia.org/wiki/Agnosticisme


Portrait de Kebabsansoignon

1/Tu es obligé de dénoncer le déviant car Connor à ce moment du jeu est totalement stable, donc 100% focalisé sur sa mission...
Si le choix était possible, tous les joueurs auraient dit "c'est pas logique ! Pourquoi Connor peut protéger le déviant alors qu'il n'est pas déviant lui même ???"

2/Pourquoi cela n'a pas de sens ? Kamski le sous-entend plusieurs fois. Et puis c'est quand même le principe fondamental de l'histoire...

3/Si c'était possible à deviner, personne ne ferait ce choix. C'est un peu frustrant, mais tout comme dans la vie, de petites décisions prises peuvent avoir des conséquences inattendues

4/Le flic tire directement car les humains n'ont aucune estime pour les machines. Il constate que l'androide est dangereux, il prend ZERO risque et tire directement pour le neutraliser. Tu sais, je t'invite à te renseigner sur le comportement de la police avec les noirs aux Etats-Unis. Tu comprendrais bien mieux.

Bref, tout ça pour dire que les incohérences on peut en trouver partout, tout le temps, dans tous les jeux si on veut que les choses soient incohérentes à tout prix.

C'est drôle par exemple de constater que l'histoire de Dark Souls (jeu que j'adore je précise) soit pleine de trous et que tous les fans essayent à tout prix de la rendre cohérente en brodant autour.