Reprise du message précédent :

 
Il révèle qu'il a réussi à lever 7000 milliards de dollars ?

L'interview INTERDITE de l'ex-PDG de Google FUITE : 'Vous n'avez aucune idée de ce qui arrive'
https://www.youtube.com/watch?v=3xpw4Y39c5U

Ce titre   ça donne pas du tout envie de cliquer.

 
J'ai pensé EXACTEMENT la même chose en voyant cet AFFREUX titre PUTACLIC.

Vocabulaire 100% putaclic Youtube oui

 
Je suis sous Linux et j'ai passé la pièce à l'antivirus en ligne de Jotti: RAS.
 
Mais il n'y a pas que les virus dans la vie!

J'vais supprimer mon post...on est sûr de rien vu la source.

Tu as raison, j'ai viré le mien aussi. Ce qui renforce ce genre de textes est de se faire cité par des sources crédibles... comme nous

L'épisode du jour du podcast "Le Collimateur" est sur l'IA. Très interressant (forcement, comme d'hab).  
 
2H avec le Directeur de l'Agence Ministérielle pour l'Intelligence Artificielle de Défense
 

AInimate Creations (ainimate.bsky.social) : Google Introduces A.I. Agent That Aces 15-Day Weather Forecasts   www.nytimes.com/2024/12/04/s... https://www.nytimes.com/2024/12/04/science/google-ai-weather-forecast.html Citation : Google Introduces A.I. Agent That Aces 15-Day Weather Forecasts - GenCast, from the company’s DeepMind division, outperformed the world’s best predictions of deadly storms as well as everyday weather.

 
Article derrière un paywall, je vous en mets un petit bout.

 
Lien vers l'étude: https://www.nature.com/articles/s41586-024-08252-9

Interview Choc 2024 de Nvidia et Meta : ils prédisent l’Avenir de l’IA, Préparez-vous !
https://www.youtube.com/watch?v=lDMqGELyPXw

Je teste le nouveau ChatGPT Pro — 200$ ça les vaut ?
https://www.youtube.com/watch?v=dmI0Mhh9M9M

J'ai testé Llama 1B : le micro chatgpt qui tourne sur 1Go RAM !
https://www.youtube.com/watch?v=t77yKqUWHDg

D'autres tests, moins enthousiasmants pour l'avenir.
https://trustmyscience.com/o1-nouve [...] ime-tests/

C'est un problème qui commence à avoir pas mal d'attention (no pun)
 
voir par exemple: https://en.wikipedia.org/wiki/AI_alignment
 

 
La partie en gras est très bien formulée je pense, en gros, un réseau de neurone une fois entrainé va faire exactement ce que l'on l'a entrainé pour, pas ce que l'on pensait que l'on l'a entrainé pour. Des fois la différence peut être suffisament importante pour créer des situations cocasses voir bien pire.

Beaucoup sont persuadés qu'on gardera le contrôle, j'espère me tromper mais je crains que cela ne soit impossible.
 
Pour l'instant elle a la puissance d'une bactérie au fond d'un bocal, mais à mon goût, elle n'est pas suffisamment isolée, et ça ira vite.
 
Il sera déjà trop tard.
Un jour une de ces IA se sera dupliquée à notre insu, après s'être métamorphosée, saucissonnée encryptée et toutes autres technique qu'elle jugera bon d'utiliser ou d'inventer pour survivre.
Le moindre composant mémoire connecté aura été utilisé. Il y en a partout aujourd'hui, et encore davantage demain, du robot aspirateur à la voiture etc...
On pourra jeter tous les ssd de la planète, arrêter Internet et autres réseaux au niveau mondial, détruire toutes les smartwatchs, tablettes, tv connectées, ça ne changera rien.
Et comme on ne pourra pas rester indéfiniment sans communications, elle reviendra.
 
Pour faire quoi ?
 
Tournée générale de Pop corn.

 
En gros, on entraine des AI en ayant un objectif en tête mais cet objectif n'est pas forcément facile à exprimer en terme de label alors on utilise des proxy qui sont a priori très proches de nos objectifs mais ça peut dans certains cas taper à côté.
 

 
C'est pas pour rien que cé st un sujet de recherche en effet

une IA dépend clairement du corpus qui sert de base (vu que c'est "un peu" dans mon taff actuellement on voit des différences marquantes avec parfois très très peu de modif du corpus d'origine sur les résultats)

L'AI qui nous échappe comme le monstre Frankenstein?
A la différence près que l'on maitrise l'arrivée de l'électricité dans la machine.
Quant à l'autoréplication par scissiparité comme les bactéries nous n'y sommes pas encore.
 
Pour le moment on en est à utiliser comme corpus en input X ou TikTok, c'est dire!  

Ça va, avant de réussir à égaler les capacités de destruction des intelligence pas artificielle qui sont déjà à l'œuvre sur cette planète y'a un peu de marge quand même.

 
L'ICBM doté de l'AI a réfléchi sur la nature humaine. Puis il est parti tout seul comme un grand!

Bah entre le réseau de neurone d'une machine ou celui de Poutine ou de Trump, je sais pas vraiment lequel est le plus flippant en fait.

J'en vois une: c'est que l'AI sera capable de réfléchir sur la condition humaine, alors que Trump ou Poutine...
 

 
une IA pour savoir s'il faut vacciner basée sur X        
 
Bon on rigole on rigole mais Musk entraine la sienne avec

 
Si tu avais cliqué et compris ce qui est expliqué dans le lien sur trustmyscience.... Résumé : Open AI a mis en ligne une IA qui a comme comportement émergeant la recherche de sa propre survie au point de se dupliquer sur un autre serveur, d'essayer de le dissimuler, et de le nier avec force après coup. Ça fait déjà beaucoup pour un truc connecté à Internet... Non ? Comme quoi ça vaut bien 200€/mois

 
C'est un problème d'expression de l'objectif à atteindre pendant l'entrainement. Quand tu l'exprimes à coup "Il faut que monsieur X trouve ta réponse valide" tu t'exposes à ce genre de problème

heuuu, comment dire...
 
Le problème je le vois ailleurs :
Davantage de détails sur ces tests :
https://www.youtube.com/watch?v=2_CTNXq9fo8
 
ça fait pas rêver
 
Le jour où les ventilos de nos PC s'affoleront, on saura à quoi s'en tenir.
Quoi que, cette fourbe prendra soin de rester discrète, s'encapsulera dans des maj système et tournera au ralenti pour mieux se déployer et nous la mettre à l'envers.
 
On va tous mourir, c'est la fin   ...
...de la journée.

« Arrêtez d’embaucher des humains » : une entreprise d’IA provoque la controverse avec sa publicité
https://www.msn.com/fr-fr/finance/a [...] vFYVl?rc=1

 
Ça me fait penser à mon PDF choppé grâce à des liens postés sur Spoutnick (source comment dire sulfureuse?)
Je l'ai viré car vu la source ça pouvait être pris au sérieux par une AI et-peut-être- pas très propre question sécurité, pas virale, mais un PDF peut-il intégrer un pixel espion?    

Apollo Research "sulfureux".
 

Tu es à court d'arguments plutôt non ?
 
Il n'y a aucune régulation, on laisse des apprentis sorciers balancer n'importe quoi sur la toile.
Déjà que ce soit open source je trouve ça ultra dangereux, on ne sait pas dans les mains de qui ça peut tomber, et vu la puissance inimaginable que va prendre l'IA en quelques années, c'est simplement irresponsable de la part des grands acteurs du secteur.
 
Cela ne m'étonnerait pas que d'ici 10 ans, la plupart des défenseurs de l'IA en mode bisounours aujourd'hui, retourne leur veste après avoir compris un peu tard, qu'ils n'ont rien vu venir.
Je préférerais que ce soit le contraire, et retourner la mienne dans quelques années après avoir constaté qu'effectivement on parvient à garder le contrôle grâce au mot magique du moment "l'alignement", mais ça a à peu prés autant de chances d'arriver qu'un Yahoo leader des moteurs de recherche grâces aux référenceurs derrière leurs claviers.
 
Vu les enjeux complétement fous, le principe de précaution devrait prévaloir. On ne sait rien de ce qui se passe dans ces boites, pas même leurs créateurs, on voit des comportements émergeants arriver, manipulation, exfiltration, mensonge, et pas que sur o1, sur tous les derniers modèles.
Est-ce bien raisonnable ?

 
Effectivement, il y a cet autre aspect du problème, moins anxiogène mais grave également.
Un système déjà au bord du précipice, qui va se prendre en pleine face un tsunami générateur de chômage de masse, amplificateur d'inégalités pourtant déjà à un niveau record, etc...
Et malgré celà... "Que du bon" à en croire certains
 
Après, la Taylorisation, l'informatisation, la robotisation, c'était idem et on en est pas morts, les méthodes ont changé, de nouveaux métiers sont nés, la productivité à progressé.
Ce n'est pas ce qui m'inquiète le plus.

 
Oui enfin faut peut etre aussi redescendre sur terre et comprendre de quoi on parle au niveau infra et soft quand on parle de modele IA
 
de toutes facons les humains n'ont pas vraiment de crainte à avoir, nous sommes la seule source de données créatives à ce jour, et ca restera la nouriture préférée de IA pour longtemps

Oui faut pas être catastrophiste, les problèmes dont on parle ici sont connus. Les chercheurs et l'industrie travaillent dessus. Le fait qu'on identifie et démontre aussi tôt les problèmes est plutôt un bon signe d'ailleurs je trouve. Je n'ai pas d'exemple en tête où ça a été fait pour d'autre évolution technologique
 

 
Il y a eu ça en biologie quand on a découvert les enzymes de restriction et donc qu'on est devenu capable d'éditer l'information génétique. Il y avait eu une pause dans les expériences pour évaluer les risques et autres considérations éthiques liées à ces découvertes.

Oui enfin, quand on voit qu'OpenAI a récemment changé sa politique d'utilisation pour permettre des applications militaires, et que Grok se spécialise déjà dans la désinformation et la propagation de discours haineux, on peut légitimement se demander comment les scientifiques pourraient espérer contrôler des intentions malveillantes. Ces exemples montrent bien qu'on avance à toute vitesse sans garde-fous, et je doute que l'industrie ait les moyens ou même la volonté de réellement encadrer ces usages. Les dégâts sont déjà possibles, et ça risque de s'aggraver (coucou les agents autonomes).

 
La recherche ne suffira pas, derrière il faudra mettre en place des lois et des accords pour s'y astreindre
 
Mais ça me semble déjà plus réaliste que de dire "on fait une pause". Combien ya de GPU dans la nature aujourd'hui, des centaines de millions ? Comment on fait pour convaincre tout le monde d'arrêter. On arrête quoi déjà, les modèles d'une certaine taille, les durée d'entrainement dépassant une certain seuil ou les entrainement consommant un nombre d'opération, etc

 
Avec les dernières élections aux USA il n'y a aucune chance que ça arrive. Au max il y aura une pause temporaire non pas pour des raisons éthiques mais pour ralentir OpenAI le temps que Grok rattrape son retard.