Algoritmes i perfils
Algoritmes: què són i per què importen
En sentit matemàtic, un és un procediment finit, format per una sèrie d’instruccions que, seguides pas a pas, transformen unes dades d’entrada en un resultat. És la mateixa lògica que una recepta de cuina: si segueixes les passes al detall, sempre arribes al mateix plat.
Els són les “receptes” que fan funcionar Internet: decideixen quina web veus primer a Google, quin anunci apareix al teu o quin preu et mostra una botiga online. Sense algoritmes, navegar per Internet, seria com buscar una agulla en un paller. Però cal entendre que els algoritmes no són neutres: treballen amb objectius concrets (maximitzar clics, retenir-te més temps, vendre més) i això té conseqüències directes sobre la teva experiència digital.
A més, no són infal·libles. Els cercadors com Google indexen milions de pàgines amb tècniques de . Si una persona publica contingut mal estructurat o mal indexat, l’algoritme pot acabar mostrant respostes pobres o poc rellevants. En aquest cas, el problema no és només del sistema, sinó també de la qualitat de les dades que rep. De la mateixa manera, els sistemes d’ poden amplificar aquests errors i respondre amb informació esbiaixada si la pregunta és massa bàsica o el material original és feble.
Això ens recorda que la responsabilitat és compartida: els algoritmes intenten ordenar i connectar dades, però el resultat també depèn de la manera com les persones creen i publiquen la informació. Continguts clars i ben estructurats ajuden a reduir el “soroll” i faciliten que el sistema funcioni millor.
Entendre els seus límits és clau: no tot està controlat ni tot és eficient. Els algoritmes fallen, tenen i funcionen segons criteris que no sempre són transparents. Per això, la consciència digital consisteix a ser conscients d’aquest mecanisme i a posar-hi criteri propi: crear i consumir contingut amb sentit, i saber on confiar i on desconfiar.
Generar plataformes de confiança que indexin continguts de manera acurada, amb criteris de i auditable, ajudaria molt a recuperar la confiança en la informació. Al cap i a la fi, la informació ben organitzada i fiable és la base del coneixement. Pensar en aquest tipus de projectes col·lectius no seria una mala idea.
De les dades als perfils
Doncs, molt bé: una vegada entès què és un algoritme i com s’aplica sobre les dades, toca veure què passa en la pràctica. El sistema actual no és neutral: crea desigualtats clares. Les dades i la traçabilitat que genera cada acció digital alimenten perfils que poden afavorir o perjudicar-te sense que en siguis conscient.
Tipus de decisions algorítmiques (exemples)
| Àmbit | Què decideix? | Dades / senyals | Impacte |
|---|---|---|---|
| Xarxes socials | Ordre del feed i suggeriments | Likes, comentaris, temps de visualització, amistats | Bombolles informatives, dependència |
| Publicitat | Quin anunci reps i amb quina freqüència | Historial de navegació, perfil demogràfic, ubicació | Consum dirigit, perfilat comercial |
| Comerç electrònic | Recomanacions i preus dinàmics | Compres prèvies, dispositiu, hora, comportament | Canvis de preu i d’ofertes segons perfil |
| Entreteniment | Què et recomana (sèries, vídeos, música) | Historial de consum, valoracions, abandons | Canvi d’hàbits culturals, filtre de novetats |
| Banca i finances | Aprovació de crèdits, límits de targeta, assegurances | Ingressos, historial de pagaments, zona de residència | Accés o denegació de serveis financers, possibles desigualtats |
| Contractació laboral | Filtrat de CV i selecció de candidats | Historial laboral, estudis, paraules clau | Exclusió per biaixos en dades o criteris opacs |
| Justícia | Avaluació de riscos, suport en sentències | Historial judicial, antecedents, context social | Risc de biaixos sistemàtics i perpetuació d’injustícies |
Exemples de desigualtat algorítmica
- Preus dinàmics: si vius en un barri benestant i fas servir un ordinador car (p. ex., un Mac), el sistema pot deduir que tens més capacitat econòmica i mostrar-te bitllets d’avió més cars.
- Oportunitats digitals: si et connectes des d’un barri obrer o amb menys recursos, alguns serveis poden restringir opcions de crèdit, publicitat o accés a ofertes.
- Discriminació racial o cultural: sistemes de reconeixement facial i models predictius poden tenir biaixos que penalitzen persones d’orígens minoritaris perquè les dades d’entrenament no inclouen prou diversitat.
- Recomanacions culturals: si el teu historial no encaixa amb la “norma majoritària”, potser rebràs menys continguts o menys visibilitat en xarxes, reduint la teva capacitat d’expressió.
Per això cal parlar de consciència digital: posar consciència i pressió perquè les regles no generin desigualtats invisibles, i la sigui pública, auditable i consensuada. L’equilibri real només s’assoleix si hi participen actors diversos:
- Institucions públiques: governs i reguladors que garanteixin drets fonamentals.
- Empreses: responsables de la tecnologia que han de respectar límits clars de transparència i ètica.
- Comunitat científica i tècnica: experts independents que puguin auditar i validar els sistemes.
- Societat civil i associacions: col·lectius que vetllen pels drets digitals i donen veu als usuaris.
- Ciutadania: persones informades i crítiques, capaces d’exigir responsabilitats i fer ús conscient dels serveis.
Només amb aquesta corresponsabilitat podem transformar els algoritmes en eines que serveixin al bé comú, i no només als interessos comercials o polítics de qui els controla.