El biaix del dissenyador

Què és?

Els dissenyadors som humans, tenim les nostres preferències i els nostres prejudicis, i creiem un munt de coses sense justificació. Són simplement coses que hem llegit, escoltat i experimentat i que hem inclòs en la nostra maleta de models mentals i regles a l’hora de dissenyar. Associem el vermell al perill o el negre al dol com a resultat de viure en una societat i context que usa aquests colors en aplicacions concretes.

Tenir prejudicis, en el sentit neutre de creences que són prèvies a prendre una decisió, no és dolent, i de fet és inevitable: si haguéssim d’analitzar racionalment cada una de les decisions que prenem, el resultat seria una paràlisi per anàlisi.

El problema és que aquesta visió, aquest horitzó de sentits que defineix la nostra interacció amb el món, està esbiaixada i distorsiona la realitat.

El psicòleg i premi Nobel d’economia Daniel Kahneman ha estudiat els mecanismes de biaixos per observar quan són beneficiosos i quan són problemàtics. Segons Kahneman, a l’hora d’analitzar un problema, la nostra ment pot adoptar dues formes: una de racional –deliberativa, que analitza els pros i contres d’un problema fins a trobar una solució que satisfaci– i una d’intuïtiva –directa, en la qual la solució sorgeix de manera espontània sense necessitat d’anàlisi. Calcular l’òrbita d’un satèl·lit artificial o decidir quina carrera estudiarem no són problemes que puguem deixar a la intuïció, sinó que requereixen desenvolupar un procés d’argumentació i anàlisi. Però la majoria de petites decisions que prenem cada dia, quotidianes o professionals –des de decidir si és segur creuar el carrer encara que el semàfor de vianants estigui en vermell fins a decidir quina tipografia anirà millor per a un logotip–, són decisions que prenem de manera prereflexiva des de la intuïció.

Segons Kahneman, el problema sorgeix quan un problema que s’hauria de solucionar amb un procés racional complex se simplifica i ens guiem per la intuïció, encara que sigui clarament insuficient, i llavors és quan apareix un biaix, perquè no pensem amb propietat.

Pensem en el fet de votar en unes eleccions municipals. Es tracta d’un problema eminentment complex: cal considerar com és la nostra ciutat, quines coses ens semblen bé i quins són problemàtiques. Cal examinar els programes de cada candidat amb detalls i veure quin s’ajusta millor a la nostra idea de ciutat, valorar fins a quin punt podem prendre el seu programa seriosament, recordar actuacions anteriors dels alcaldes, etc.

Però això és una tasca complexa que porta molt temps. Així, doncs, la majoria de nosaltres simplifiquem el problema i la substituïm per una altra que puguem fer de manera automàtica. Així, mirem les fotos dels alcaldes i decidim per l’aspecte quin ens sembla de més confiança. Una persona masclista aplicarà automàticament un biaix de gènere i eliminarà com a possibles candidats les dones, ja que pensarà que no estan preparades per a governar; una altra persona que té el biaix de creure que els polítics sempre menteixen acabarà escollint el més populista, ja que li semblarà que és un polític «autèntic», que diu el que pensa.

La simplificació d’un problema complex per a reduir-lo a un biaix o un prejudici té lloc també sovint en disseny: és el que anomenem biaix del dissenyador.

Formes d’aplicació

Qualsevol interfície o mecanisme d’interacció és dissenyada, és a dir, la persona que la crea parteix d’un problema que cal resoldre i inclou en el mecanisme uns valors determinats associats als resultats que generarà el producte.

Un disseny mai no és neutre, ja que sempre tindrà efectes sobre les persones que l’usen i l’entorn en què estan. Alguns d’aquests efectes seran positius, uns altres poden ser negatius, molts seran buscats, però hi haurà inevitablement efectes inesperats. Considerar tot aquest procés és complex, de manera que la temptació de tirar d’algun biaix per fer el treball més senzill i àgil és inevitable.

El disseny centrat en l’usuari i l’UX parteix de la premissa de fer disseny pensant en les persones, i els dissenyadors han de fer l’esforç empàtic de posar-se en la pell de la persona que interactua amb el disseny, pensar què cerca i com poden facilitar-li la tasca tan bé com sigui possible.

Al món hi ha molts tipus de persones amb diferents preferències, capacitats sensorials i de moviment, creences religioses, valors ètics, gustos musicals, orientació sexual, etc. Com podem saber el que necessita cadascuna d’elles? És una tasca impossible, de manera que en el disseny és comú imaginar que som una «persona tipus» i dissenyar la interacció que solucionaria el problema tal com el veiem nosaltres mitjançant uns mecanismes d’interacció que ens siguin fàcils d’entendre.

Aquesta transformació en «persona tipus» és certament possible, però requereix un procés de racionalització important. Hem de projectar un «vel d’ignorància» sobre como ens veiem i oblidar si som home o dona, el nostre grau de familiaritat amb les tecnologies digitals, si tenim alguna discapacitat o no, etc. Hem d’evitar així la temptació de deixar-nos portar directament per la intuïció i fer el disseny que ens agradaria a nosaltres, ja que inevitablement estarà ple de biaixos que faran que persones diferents de nosaltres no tinguin una experiència informativa i plaent en interactuar amb la nostra interfície.

Com afecta el disseny?

Si no hi posem atenció, podem carregar de biaixos el nostre disseny. A continuació enumerem els biaixos més comuns:

• Biaix genèric. La nostra societat defineix una sèrie de rols predeterminats i diferenciats segons el gènere: defineix uns estàndards de normalitat per a un home i una dona «tipus» que no sempre s’ajusten a la realitat. Encara que no siguem persones conscientment masclistes, si no hi posem atenció, acabarem reproduint aquests biaixos en els nostres dissenys. Una perspectiva de gènere ajuda certament, però ni és inevitable que un home cometi biaixos de gènere ni ser dona garanteix que no es prendran decisions masclistes en un procés de disseny.
  Hi ha biaixos de gènere obvis, com quan una persona que dissenya un videojoc per a noies l’omple de prínceps, princeses i diferents tonalitats de rosa; i n’hi ha d’altres menys obvis, com usar estereotips de gènere quan posem exemples de com homes i dones utilitzaran els dissenys o utilitzar un llenguatge sexista en una aplicació.
  Així, hi ha tot un seguit d’estàndards de disseny que són clarament sexistes, i si no els qüestionem repetirem aquest biaix. Que alguna cosa sigui comuna en disseny d’interacció no significa que sigui correcte ni que no sigui esbiaixada. Per exemple, per què els assistents virtuals, com Siri, Alexa o els GPS, tenen majoritàriament veu de dona? Certament, en molts d’ells es pot canviar per una veu d’home, però és una opció amagada en una pantalla de preferències general i en una bona part d’ells la persona que usa el sistema acaba tornant a la veu de dona, ja que descobreix que la veu d’home està menys desenvolupada i sona més robòtica que la de dona original.
  Si no es qüestiona aquest biaix, s’accepta que el rol d’assistent (proporcionar un servei) és una cosa que naturalment han de fer les dones. De fet, més que acceptar-ho, es fomenta ajudant al fet que en la societat es repliqui un gest de gènere. Una nena que comença a entendre el món en què viu i observa que el rol de la dona servent de l’home es repeteix fins i tot en tecnologies digitals modernes com els assistents virtuals acabarà pensant que aquest rol és inevitable.

• Biaix cultural. Pensem inevitablement en les persones que ens envolten i en el nostre entorn des d’una perspectiva social i cultural específica. Al cap i a la fi, les persones compartim una sèrie de preferències, interessos i visions, però moltes de les nostres preferències i maneres d’interactuar amb el món són definides per la nostra cultura, i altres països i societats presenten maneres diferents de considerar les mateixes situacions.
  En l’època actual, en la qual els dissenys són cada vegada més globals, és fàcil oblidar que persones de cultures diferents, amb visions i pràctiques diferents, també utilitzaran els nostres dissenys i interfícies, i que no totes compartiran la nostra cosmovisió. No és necessari imaginar que la nostra interfície s’usarà a Myanmar o Sud-àfrica: n’hi ha prou de recordar que a la nostra ciutat hi viu, a més de ciutadans com nosaltres, també gent d’altres cultures i orígens, i que aquesta «ciutadana tipus» finalment no existeix.
  Hi ha una història –potser apòcrifa– en el món del màrqueting que és molt rellevant per a entendre aquest problema. Hi havia una vegada una companyia que fabricava begudes ensucrades que tenia un anunci que funcionava molt bé i que creava un gran impacte. Es tractava d’un cartell en què es veia la foto d’un nen plorant a l’esquerra. Al centre hi havia una ampolla de la beguda ensucrada en qüestió i a la dreta el nen amb un gran somriure. Es va considerar un anunci «universal», ja que no utilitzava paraules, solament les imatges interculturals i de gran efecte emotiu d’un nen trist al costat d’un de somrient amb la imatge de la beguda que es volia patrocinar. Veient que l’anunci era universal, es va llançar una campanya global. L’anunci va funcionar bastant bé en general, però va ser un desastre absolut als països àrabs. Per què? En aquests països no es llegeix d’esquerra a dreta, com a Europa o els EUA, sinó a l’inrevés, de dreta esquerra, de manera que les persones d’aquests països interpretaven que hi havia un nen content que, després d’interactuar amb la beguda, es posava trist.

• Biaix professional. Té lloc quan oblidem que no tothom està familiaritzat amb tecnologies, conceptes, mètodes i interfícies com nosaltres. Imaginem que un «menú d’hamburguesa» és quelcom obvi, però oblidem que hi ha usuaris que per diverses raons –edat, capacitat econòmica, discapacitat cognitiva, etc.– tenen molt poca interacció amb pàgines web, de manera que no entenen necessàriament que en unes línies a la cantonada superior dreta trobaran un menú amb el qual podran interactuar.
  A les persones responsables de l’enginyeria de programari els encanta explicar històries sobre el que consideren «estupideses» dels seus usuaris, i expliquen anècdotes gracioses –per a ells– de persones que pensaven que la safata del lector de CD era una plataforma per a sostenir la tassa de cafè, o de persones que, quan se’ls deien que posessin el ratolí sobre la finestra el col·locaven físicament sobre la pantalla de l’ordinador, a l’altura en què hi havia la finestra en qüestió.
  Un professional de la interacció hauria d’entendre que hi ha tot tipus d’accessos a la informació, i que no hi ha persones ximples, sinó insuficientment familiaritzades amb una tecnologia.

• Biaix de la «normalitat». La normalitat no existeix: cada persona és diferent. Però hem creat aquest fantasma estadístic de persona amb una visió «normal», una capacitat motriu «normal», un poder de concentració «normal», gustos sexuals «normals», anatomia «normal». I dissenyem per a aquestes persones. Aquest esquema de normalitat era inevitable en un procés de disseny industrial analògic en el qual calia produir en massa, però les tecnologies digitals són eminentment plàstiques i podem fer que s’adaptin a tot tipus de casos, necessitats i preferències.
  Un bon dissenyador no pot donar per descomptat cap capacitat específica i ha de fer l’esforç empàtic d’imaginar persones amb capacitats sensorials, cognitives o de moviment diferents de les seves. Com rebria el nostre disseny una persona que té un problema a l’hora de distingir el vermell del verd? Algú amb autisme podria seguir el procés de navegació per la web que imagino? Les imatges de relació interpersonal que ofereixo per il·lustrar una aplicació de cites en línia és realment inclusiva, o simplement reforço la idea de relació heterosexual monògama?
  És important no veure aquest biaix i la seva desactivació com un sistema de classificació. No es tracta simplement de dissenyar per a cecs, invàlids o discapacitats cognitius. A part de la discriminació que implica l’exercici de classificar les persones en categories concretes, la realitat és que les capacitats sensorials de mobilitat i cognitives de les persones «normals» en realitat fluctuen molt en funció del context. Un producte digital pensat per a persones amb problemes de visió ajudarà també algú amb presbícia que s’ha deixat les ulleres de llegir a l’oficina. Un protocol de disseny d’interfícies per a persones amb dificultats d’aprenentatge pot resultar molt útil per a dissenyar una interfície perquè metges i infermers que fa massa hores que estan desperts puguin introduir, sense cometre errors, dades sobre quina medicació necessita un pacient.

Com afecta la interacció amb l’usuari?

Podem distingir dues grans maneres en què els biaixos afecten l’usuari:

En primer lloc, tenim la situació en què la persona que interactua amb el disseny esbiaixat és conscient del disseny. Un progenitor compra un videojoc per a la seva filla de dotze anys i descobreix que és un joc edulcorat ple de princeses, unicorns i muffins de color rosa, i que el joc consisteix bàsicament a comprar vestits i provar-los. Una persona que és cega per al color entra en una web amb la intenció de comprar entrades per a un concert i descobreix que reconèixer diferents colors és una acció requerida per a aconseguir les entrades.

La reacció dependrà de cada persona: hi haurà qui se sentirà enganyada i protestarà enèrgicament, una altra persona se sentirà ferida per ser menyspreada, una altra simplement desistirà d’utilitzar el servei i en buscarà un altre que tingui menys biaixos, hi haurà qui decidirà donar una lliçó a la persona responsable d’aquest disseny i en malparlarà a les xarxes socials i, en el millor dels casos, hi haurà alguna persona comprensiva que advertirà els responsables de l’error comès i els donarà indicacions per a millorar.

Així, som davant d’un disseny fallit en què els usuaris són conscients que hi ha un biaix i que aquest producte, aplicació, interfície, etc., no és per a ells. Les reaccions seran variades, però la immensa majoria decidirà no utilitzar més aquest servei, i la reputació dels dissenyadors se’n ressentirà.

Aquesta situació és certament desagradable, però almenys l’usuari implicat se n’ha adonat i el dissenyador pot tenir un retorn objectiu del fet que el seu disseny és esbiaixat.

En segon lloc, la situació és més complexa i preocupant quan la persona que usa el servei és sotmesa al biaix però no n’és conscient. Sent simplement que alguna cosa no funciona, que està incòmoda.

Així, podem imaginar una dona interessada en un videojoc però que es va sentint cada vegada menys motivada a jugar: les situacions no li diuen res i després de quatre pantalles el deixa avorrida. També hi pot haver el cas d’una persona gran que fa vint minuts que intenta demanar un certificat en línia. Finalment desisteix, ja que el mecanisme d’interacció li resulta incomprensible i, a més, l’obliga a aixecar-se i posar-se les ulleres de llegir pel peculiar joc de grandàries tipogràfiques que ofereix la web.

En aquest cas, el resultat final és el mateix: una part rellevant de les persones que haurien d’usar el servei acaben frustrades i l’abandonen. És un fracàs del disseny d’interacció, i el pitjor és que el dissenyador no sap realment per què no funciona el seu disseny.

Afortunadament, tots aquests biaixos –i molts altres– es poden evitar si, en lloc de deixar-nos portar solament per la intuïció, reflexionem i recopilem dades que ens ajudin a detectar-los. A continuació es descriuen algunes de les estratègies que es poden dur a terme:

• Investigar quins estereotips funcionen actualment, detectar-los abans de començar el disseny i assegurar-nos de no caure-hi. Aquesta investigació es pot dur a terme de manera intuïtiva examinant dissenys previs per buscar patrons ocults o amb exercicis específics com la transformació narrativa, en la qual els dissenyadors aclareixen els interessos, preferències i biaixos que intenten capturar mitjançant històries. S’estableix així una dinàmica de discussió en grup en la qual cada participant descriu els seus mecanismes i processos d’agència i es pot establir quines coses funcionen, quines no i quan sorgeixen biaixos en el treball.
• Utilitzar eines com el user journey i auditar el disseny en diverses situacions. En un entorn amb poca llum, en un mòbil amb una pantalla minúscula usat per una persona que té molta pressa, que ha dormit poc o que té mal de cap. També és recomanable pensar en situacions en què una persona s’ha sentit discriminada i en els mecanismes de discriminació. Es poden aplicar tècniques com el premortem, en la qual, en lloc de pensar que tot anirà bé, un s’imagina que el procés de disseny ha anat de la pitjor manera possible per detectar quins biaixos poden haver ajudat al fet que el sistema funcioni
• Testar el disseny amb diferents tipus de persones i veure com Elles advertiran de possibles biaixos si els detecten, i, si no els detecten però es comprova que el disseny no funciona bé, es pot investigar per detectar el biaix. Fa anys era comú en processos de disseny inclusiu d’espais crear maquetes en tres dimensions perquè persones cegues o amb problemes de visió importants poguessin fer-se una idea de com orientar-s’hi. No obstant això, quan es convidava aquestes persones a provar les maquetes, indicaven que no funcionaven. La manera en què representem un espai mitjançant el tacte és molt diferent de l’accés que tenim a les dades des de la visió, ja que, si una persona amb visió estàndard mira un plànol (o la maqueta que fa les vegades de plànol), pot veure que per a arribar al lavabo és necessari seguir el segon passadís fins al final, girar a l’esquerra i després a la dreta. La visió li permet tenir una comprensió global de l’espai; en canvi, si resseguim una maqueta amb el tacte, l’accés és seqüencial, de manera que és molt més complex representar-nos una ruta.

Fer un testatge amb usuaris és realment important. Una dona pot detectar un biaix de gènere millor que un home perquè sol ser víctima d’aquest biaix. Una persona en cadira de rodes detectarà problemes de mobilitat en una estació de metro que escaparien a les que poden caminar. No hi ha res millor que una pluralitat de punts de vista per a detectar diferents biaixos.

Diagrama

Referències

Bes, B. de (2015). «The Cognitively Biased Designer» <https://medium.com/swlh/the-cognitively-biased-designer-7e6561d6f89a>. [Data de consulta: 25 de gener de 2021].

Carrillo, N. (2019) «Majordomes virtuals: per què els nous assistents també són dones?». Diari Ara.
<https://www.ara.cat/societat/majordomes-assistents-virtuals-tambe-dones-siri-alexa-estereotips-genere_0_2189181260.html>. [Data de consulta: 25 de gener de 2021].

Kahneman, D. (2012). Pensar rápido, pensar despacio. Debate.

Klein, G. (2007). «Performing a project premortem». Harvard Business Review (vol. 85, núm. 9, pàg. 18-19).

Takahashi, L.(2018). «Why your design is biased». <https://uxdesign.cc/why-your-design-is-biased-f25b300f8559>. [Data de consulta: 25 de gener de 2021].

Törpel, B. (2004). «Narrative transformation: designing work means by telling stories». <https://www.researchgate.net/publication/228735397_narrative_transformation_designing_work_means_by_telling_stories>. [Data de consulta: 25 de gener de 2021].