IA Confiance Morale

International Français Le bar
1

Je déporte ma réponse sur le Bar.

sujet : Californie, vote pour interdire l'accès de l'IA aux mineurs.

C'est ce que j'ai lu, je n'ai pas été vérifier.
Sans abonnement, l'accès à d'autres pages que celle d'accueil est difficile avec tous les journaux.
Un temps, il suffisait d'effacer les cookies avant de changer de page, mais ils ont trouvé la parade. (je suis preneur de toute astuce :grinning_face:, pour le bien de l'information bien sûr)

Le fait marquant est que des législateurs s'inquiètent des dérives possibles et veulent protéger les jeunes.

On peut le constater tous les jours, le marché est incapable de s'autoréguler, son seul but est de faire de l'argent, la morale, c'est pour quand ils auront le temps, pas de chance, ce sont des gens débordés.

Seule la puissance publique peut réguler.
J'espère que l'UE interviendra sans attendre 10 ans.

Il faut voir le problème en face : s'il y a de plus en plus de réglementation, c'est en réaction à la triche ou aux manquements délibérés de la part de certains. Un réglement ne peut pas être parfait, ce n'est pas un secret qu'il y a des individus dont le plaisir malsain est de toujours chercher la faille, ce sont eux qui sont responsables de l'inflation des règlements.

Si les impôts des professions libérales sont élevés, c'est parce que, contrairement aux salariés qui ne peuvent rien cacher, les professions libérales ont toujours dissimulé des revenus, pardon, elles ne dissimulent pas, elles optimisent, surtout quand elles se font payer en liquide.
Une fois que ce jeu de chat et de la souris a commencé, on entre dans le cycle infernal de la poule et l'œuf.

Il ne faut pas confondre les causes et les conséquences, notamment sur des dérives qui ont commencé il y a plus d'un siècle et dont plus personne ne peut reconstituer l'historique.

Sur ce forum, nous avons fini par converger vers un avis commun : l'utilisation de l'IA demande des précautions et d'avoir un esprit critique pour analyser les réponses.

L'esprit critique d'un gamin de 12 ans est-il à un niveau suffisant ?
Je ne le pense pas.

Sur un sujet comme l'IA il ne faut pas raisonner égoïstement en prenant comme référence nos propres capacités d'analyse. Sur le plan technique, elles sont affutées sur ce forum.

Il ne faut oublier que l'on peut être très pointu dans un domaine et une bille complète dans un autre.

Mon avis est que vanter l'IA, sans parallèlement systématiquement reconnaitre ses dérives et mettre en garde contre, est du plus haut danger, je dirais même de l'inconscience dangereuse.

La publication de deux articles qui vont dans le même sens, portés par deux groupes de journaux d'informations différents, chaque groupe étant constitué d'une dizaine de titres, est bien la preuve que l'IA peut être dangereuse si on ne la contrôle pas avant qu'il ne soit trop tard.

Et je remets sur le tapis les robots tueurs qui existent déjà dans les laboratoires militaires et qui ont probablement déjà été testés, a blanc espérons-le.

Réponse sur un sujet fermé, contenant des propos déformés, voir inventés
3

Moi je déportais pour arrêter de polluer le poste d'@euceb.
Là tu pollues deux fils de discussion. :rofl:
Mes 50 % "avantage" disent la même chose que tes 100 % "avantages".
Il reste mes 50 % "désavantage" et tes petits "désavantages".

4

Ce n'est pas tout à fait ça
Source

Pour ceux qui ne veulent pas cliquer sur le lien, cliquer ici pour voir le texte original

SACRAMENTO, Calif. (AP) — California Gov. Gavin Newsom on Monday vetoed landmark legislation that would have restricted children’s access to AI chatbots.

The bill would have banned companies from making AI chatbots available to anyone under 18 years old unless the businesses could ensure the technology couldn’t engage in sexual conversations or encourage self-harm.

“While I strongly support the author’s goal of establishing necessary safeguards for the safe use of AI by minors, (the bill) imposes such broad restrictions on the use of conversational AI tools that it may unintentionally lead to a total ban on the use of these products by minors,” Newsom said.

The veto came hours after he signed a law requiring platforms to remind users they are interacting with a chatbot and not a human. The notification would pop up every three hours for users who are minors. Companies will also have to maintain a protocol to prevent self-harm content and refer users to crisis service providers if they expressed suicidal ideation.

Newsom, who has four children under 18, said California has a responsibility to protect kids and teens who are increasingly turning to AI chatbots for everything from help with homework to emotional support and personal advice.

Pour ceux qui ne veulent pas cliquer sur le lien, cliquer ici pour voir le texte en français

SACRAMENTO, Californie (AP) — Le gouverneur de Californie, Gavin Newsom, a opposé lundi son veto à une loi historique qui aurait restreint l'accès des enfants aux chatbots IA.

Ce projet de loi interdirait aux entreprises de mettre des chatbots IA à la disposition des moins de 18 ans, à moins de garantir que la technologie ne puisse engager des conversations à caractère sexuel ni encourager l'automutilation.

« Bien que je soutienne fermement l'objectif de l'auteur d'établir les garanties nécessaires à l'utilisation sûre de l'IA par les mineurs, (le projet de loi) impose des restrictions si larges à l'utilisation des outils d'IA conversationnelle qu'il pourrait involontairement conduire à une interdiction totale de l'utilisation de ces produits par les mineurs », a déclaré M. Newsom.

Ce veto est intervenu quelques heures après la signature d'une loi obligeant les plateformes à rappeler aux utilisateurs qu'ils interagissent avec un chatbot et non avec un humain. La notification s'afficherait toutes les trois heures pour les utilisateurs mineurs. Les entreprises devront également mettre en place un protocole pour prévenir les contenus à caractère automutilatoire et orienter les utilisateurs vers des services d'urgence en cas d'idées suicidaires.

Newsom, qui a quatre enfants de moins de 18 ans, a déclaré que la Californie avait la responsabilité de protéger les enfants et les adolescents qui se tournent de plus en plus vers les chatbots IA pour tout, de l'aide aux devoirs au soutien émotionnel et aux conseils personnels.

5

Ok, je me suis contenté d'un entrefilet.

L'essentiel n'est-il pas que des politiques responsables reconnaissent qu'il faut protéger les jeunes de l'IA ?

6

Et les parents dans tout ça, ils font quoi ?
Certes l’état doit intervenir autant que faire ce peut mais il ne faut pas oublier que mettre au monde des enfants ça implique un minimum de responsabilités :wink:

7

Vous dérivez le sujet vers un hors sujet.

On sait bien que nous ne sommes pas dans un monde parfait et que tous les géniteurs ne sont pas des parents parfait.

Mais ils existent et mettent au monde des enfants.

Donc c'est bien qu'il y ait des lois pour les protéger.

8

Il ne me semble pas avoir dit le contraire.

Je pointe simplement du doigt la responsabilité des parents :wink:
Prenez ça comme un complément au besoin de législation.
D’ailleurs la législation devrait faire en sorte que les parents soient plus impliqués mais je ne veux pas faire du hors sujet sur un hors sujet qui deviendrait encore un hors sujet

9

Ok il faut restaurer la responsabilité des parents et faire comme Trump supprimer le caractère obligatoire des vaccinations en laissant le choix aux parents.

Et ce sera le retour de toutes les maladies : diphtérie, choléra, rougeole, polio, tuberculose.
Déjà qu'elles réapparaissent dans des milieux défavorisés, c'est pour cela que nos trumpistes amateurs veulent supprimer l'aide médicale aux migrants, comme cela ces maladies se propageront plus facilement.

Il y a bien sûr une responsabilité des parents.
Mais ont-il tous les moyens d'exercer cette responsabilité alors qu'une partie ne comprend rien à l'IA ?

Personnellement, je n'ai jamais mis de contrôle parental : je préférais la discussion. Il faut dire que je savais que je pouvais contrôler l'historique du PC.
Cela me permettait de favoriser la discussion en toute sécurité.

À l'époque, la plupart des parents ne comprenaient rien au fonctionnement d'un PC. Et donc ils se protégeaient en utilisant les méthodes autoritaires du contrôle parental que les mômes apprenaient vite à déverrouiller.
Quand on est ado ce qui est interdit est plus attrayant que ce qui est autorisé.
Donc tout faux.

C'est très simpliste de dire que c'est de la responsabilité des parents.
Parce qu'on sait faire, les autres n'ont qu'à apprendre.

Il y a des choses que les autres savent et que toi, tu ne sais pas faire, il ne faut pas l'oublier.

Les autorités sont les seules à pouvoir imposer des règles aux IA.

Vu ton ancien métier, tu crois qu'il serait possible de faire appel à la responsabilité des conducteurs pour avoir une route sans danger ?

Je ne vois pas de différences entre un code de bonne conduite imposé aux concepteurs de l'IA et un code de la route imposé aux automobilistes.

Les IA sont déjà responsables de plusieurs suicides, ne l'oublie pas.

10

Ce n’est pas ce que je dis car bien heureusement dans la plupart des cas, ils sont responsables dans tous les sens du terme. Quant à ceux qui ne le sont pas, les enfants n’en sont pas eux-mêmes responsables bien évidemment… voilà quelle est ma perception, j’ajoute brièvement que l’irresponsabilité des parents doit leur être signifiée (attention c’est un bien grand mot) et ici je suis plus généraliste, je ne m’en tiens pas qu’à l’IA. Mais je ne souhaite pas politiser le débat et faire du hors sujet

11

Pour moi ce n’est pas l’IA qu’il faut interdire mais les réseaux sociaux à commencer par Facebook et TikTok.

Et le fond du problème est une histoire d’éducation et d’implication des parents en effet.

12

Si vous croyez tout ce que vous lisez sur internet ou dans certaine presse… c’est comme l’IA il y a beaucoup de fake news… vous vous faites manipuler et vous propagez la news…

13

Tu trouves normal que des abrutis totaux utilisent l'IA pour faire revivre les morts afin que leurs proches puissent continuer à leur parler.

Je ne trouve pas de nom pour qualifier cette racaille tellement j'ai du mépris pour ces porcs.

Vous êtes dans votre technique et vous la maitrisez.
Vous ne voyez les saloperies qui existent déjà aujourd'hui dont le seul but est de profiter des personnes fragiles.
Peut-on aujourd'hui considérer qu'une photographie peut servir de preuve ?

Oui, il y a des personnes vulnérables qu'il faut que la loi protège.
La formation des enfants doit être protégée.

Oui, il y a des parents qui n'ont pas fait d'études et qui sont démunis devant ce déferlement de tentations pleinement assumés par des %£$µ&.
Ces parents il faut les aider, sinon leurs enfants sombreront.

S'ils sombrent scolairement, il ne leur restera comme avenir que la délinquance et vous plaindrez que la délinquance augmente et vous demanderez encore plus de places dans les prisons.

Je n'ai pas l'impression que certains connaissent le mot Fraternité.

14

Face à un probléme grave et pouvant mettre en péril les enfants (l'avenir de l'humanité), je ne pense pas que l'on puisse se contenter de dire que le problème est une histoire d’éducation et d’implication des parents.

Sinon, il y a beaucoup de choses qui ne se feraient plus dans beaucoup de familles si on ne comptaient que sur l'implication des parents.

A commencer par l'instruction scolaire qui, bien qu'obligatoire jusqu'à 16ans, souffre déja de beaucoup de lacunes dans un grands nombres de familles.

15

Bien sûr que ce sont des usages potentiellement addictifs aux conséquences néfastes.

la mort laisse un vide brutal, et beaucoup cherchent à maintenir un contact symbolique pour apaiser la rupture. Certains vont se réfugier dans la religion, d’autres l’alcool… Vous trouvez normal que le vin et la cigarette soient autorisés ? Que certains pays légalisent certaines drogues ?

Certaines personnes vont régulièrement sur les tombes pour parler aux morts, à Madagascar les familles promènent les morts lors du famadihana, et dans d’autres cultures on entretient des autels ou des rituels pour communiquer avec les ancêtres.

Pour votre exemple, la « résurrection numérique » a fait du buzz (la presse aime ça fait du clic et vend de la pub) mais c’est très limité - au Japon et en Corée du Sud, en grande partie et pour des raisons culturelles et sociales car le lien avec les ancêtres est profondément ancré et la technologie est perçue comme un moyen acceptable d’entretenir ce lien.

J’ai cherché un peu les chiffres - au Japon, « You, Only Virtual » compte environ 1 000 utilisateurs, et « Project December » environ 3 600 essais. En Corée du Sud « Rememory » enregistre soi disant 30 à 40 demandes par mois, dont 20 à 30 % aboutissent à une production ➜ à mon avis il ne faut pas généraliser : ces usages restent très marginaux et anecdotiques. Faire une loi pour cela n’a aucun intérêt.

Mon souci aussi avec la régulation ou les lois sur ce genre de choses, c’est que non seulement elles ne sont pas mondiales, mais qu’elles n’ont souvent pas vocation réelle à protéger le consommateur. Prenez par exemple le RGPD ou le DSA : la collecte de données, la publicité ciblée et d’autres pratiques intrusives ou manipulatrices (Algos de TikTok, enfermement dans une bulle médiatique,…) restent autorisées. ces lois servent surtout à freiner et taxer les géants non européens pour essayer de favoriser l’émergence d’entreprises locales. Le problème, c’est que cela échoue parce que les décideurs ne comprennent pas vraiment les technologies et sont guidés avant tout par leurs objectifs politiques ou idéologiques et influencés par les lobbys, plutôt que par l’intérêt réel des citoyens.

17

Là on parle effectivement d’une niche, mais il existe combien de niche précisément et combien de personne cela aide, sur combien cela enfonce?
même si cela aide une majorité, faut-il abandonnés les autres?
Tout le monde sait qu’une seul lois isolé ne résoudra jamais tout les problèmes.
La question est si on sait que cette lois ne suffira pas, il faut donc rien faire, car c’est assez compliqué de mettre une réponse globale?

Comme l’indique @68tjs le marché ou toute pseudo entité conçue uniquement pour détourner les responsabilités ne s’auto régule jamais.
Il n’y a pas d’auto-régulation, car l’être humain n’est pas raisonnable dans sa globalité et qu’il a un pouvoir de s’auto convaincre que dans son cas, ce n’est pas grave et que cela ne fait pas de lui une mauvaise personne.

18

Et donc on laisse faire des voyous en col blanc.
C'est vrai que si ce sont des cols blancs ce n'est pas grave.
Ah, ce seraient des voleurs de pomme, là au gnouf direct.

19

Si vous avez un tant soit peu voyagé en Asie, le rapport aux morts est vraiment différent de ce que l’on ressent ici.

Et Faut pas exagérer - Ils mettent une offre sur le marché - ils ne sont pas venus avec un pistolet sur la tempe de leurs clients. Et dans quelle société vit on s’il n’y a plus de notion de responsabilité individuelle ? Le principe de précaution et cette génération d’assistés détruisent la capacité de penser par soi même .

S’ils ne rendent pas le service qu’ils disent proposer - ce sont des escrocs mais s’ils font ce qu’ils disent vous avoir vendu - et que le service n’est pas illégal, et que le client est content - en quoi sont ils des voyous ?

20

+1 - entièrement d’accord :+1:

21

Mais quand ai-je parlé de supprimer la notion de responsabilité individuelle ?
Quand ?

J'ai dit que des personnes sont incapables de l'exercer, c'est factuel.
Vous avez très bien compris que j'associais "être incapable" à moyens intellectuels insuffisants.
Ces personnes restent des humains.

Mais cela ne vous arrangeait pas, alors vous avez déformé mes propos.

C'est vraiment regarder par le petit bout de la lorgnette.
Vos théories simplistes créent des exclus qui n'ont que la délinquance comme avenir.
Vous sciez la branche sur laquelle vous êtes assis.

Je stoppe, je ne peux pas en supporter davantage.

22

Quand ai-je dit que vous aviez dit cela ?

J’avais tenté d’élargir le débat - on ne peut pas parler « des vilains offreurs de services » sans regarder aussi de l’autre côté et la responsabilité personnelle des clients de ces services.

Tout n’a pas à être fliqué et régulé à mon avis.