L'ultradreta va pujar als anys trenta perquè la gent patia per arribar a final de mes, i ara 90 anys més tard torna a passar i la penya es fa explicacions absurdes i rebuscades quan realment és simplement això.

[jordicasas@mastodont.cat]

@remenca @totpassejant
La roda i el foc van capgirar el món.
El moviment autònom (trens i cotxes) va capgirar el món.
La industrialització i la producció en massa...
L'automatització dels processos...
La presa autònoma de decisions, és el que ho capgira tot de la IA.
2d2

[vullunfestuc@mastodon.social]

@jordiCasas @remenca @totpassejant La IA no pot prendre decisions autònomament perquè no és inteŀligent, senzillament replica patrons de milions de contextos (imatges, textos, vídeos, etc) que uns humans han decidit que son el que son.

[vullunfestuc@mastodon.social]

@jordiCasas @remenca @totpassejant L'avantatge que té la IA és que humanament no podem arribar a determinar tants patrons. Però, en canvi, sense tants contextos ni entrenaments prenem decisions i aprenem. Les IA no aprenen, s'entrenen.

[remenca@mastodont.cat]

@vullunfestuc @jordiCasas @totpassejant curiosament els humans aprenem d'igual manera i ningú dubta de que són intel·ligents (malgrat el què fan amb el planeta suggereix el contrari, i tot)

[vullunfestuc@mastodon.social]

@remenca @jordiCasas @totpassejant No aprenem de cap manera igual. Gens, no s'hi assembla. Creu-me. Em dedico a entrenar una IA per la feina i sé el que em dic.

[remenca@mastodont.cat]

@vullunfestuc @jordiCasas @totpassejant

Un ésser humà aprèn fent exercicis del estil "omple la paraula que falta" o "tria la resposta correcta d'aquestes tres", de tal manera de quan ho fa bé no passa res i quan s'equivoca això provoca que busqui on s'ha equivocat i miri de recordar l'error de tal manera que la propera vegada que passi ho faci bé.

[remenca@mastodont.cat]

@vullunfestuc @jordiCasas @totpassejant

El mateix es fa amb les xarxes neuronals quan es fa el pretraining o el nom que facin servir ara. Agafar tots d'exercicis estil "fill the gaps" o predir la següent paraula, tasques auxiliars, etc...en les quals la xarxa quan s'equivoca genera un gradient que es propagarà fins a les unitats responsables del error i la modificarà (si déu vol) de tal manera que no tal torni a cagar.

[remenca@mastodont.cat]

@vullunfestuc @jordiCasas @totpassejant

Dit d'una altra manera, en ambdós casos hi ha un sistema amb uns paràmetres que fa una predicció i que en base a l'error ajusta aquests paràmetres per evitar tornar-la a cagar. Després d'un milió de vegades s'espera que a base de cagar-la i corregir aprengui algo. Que el sistema sigui un cervell O una ANN em sembla irrellevant.

[remenca@mastodont.cat]

@vullunfestuc @jordiCasas @totpassejant

Després tenim tot el fine-tuning que ara li diuen aligning o nosecom que li fan a sobre, que encara és més abstracte i semblant a com aprenem els humans. Estratègies com ara anar a buscar en una base de dades rollo RAG em sembla com fer servir una enciclopèdia, i les coses que fan de CoT és precisament fer raonaments en passos com ho faria un ésser humà. ELMHO no hi ha gaire diferència.

[remenca@mastodont.cat]

@vullunfestuc @jordiCasas @totpassejant

De fet, rellegint el que has escrit diria que simplement la intel·ligència és aprendre patrons. L'únic que el nostre cervell és més potent i està més avall de la corba del scaling laws. Però això és tot.

[vullunfestuc@mastodon.social]

La majoria de coneixement d'un humà mitjà no s'ha basat en agafar tones de dades processades per un altre humà i llegir-les. La nostra inteŀligència basa el coneixement en emocions, experiències i sensacions. Res d'això és extrapolable (encara) a una màquina.

En realitat anomenar-hi IA és un nom comercial. En podríem dir llenguatge generatiu i és el mateix. Encara no tenim una màquina inteŀligent.