Suposem ara que la societat industrial sobreviu les properes dècades i que els microbis a la llarga surten del sistema, per la qual cosa funciona suaument. Quina mena de sistema serà? Considerem algunes possibilitats.
Primer permeteu-me postular que els científics d’ordinadors són afortunats desenvolupant màquines intel·ligents que poden fer tot millor que els éssers humans. En aquest cas presumiblement tota la feina ho faran enormes sistemes de màquines altament organitzades i no caldrà cap esforç humà. Qualsevol dels dos casos pot passar. Es pot permetre a les màquines que prenguin les pròpies decisions sense supervisió humana o es pot retenir el control humà de les màquines.
Si es permet a les màquines prendre les pròpies decisions no podem fer cap conjectura fins als resultats, perquè és impossible endevinar com es comportaran. Només assenyalem que la sort de la raça humana estarà a la seva mercè. Es pot argumentar que mai no serà tan estúpida per a lliurar tot el poder a les màquines. Però no estem suggerint que la raça humana voluntàriament transfereixi el poder a les màquines ni que aquestes se n’apoderin deliberadament. El que suggerim és que fàcilment es permeti derivar a una posició de tal dependència que no tindria elecció pràctica sinó acceptar totes les decisions. Com que la societat i els problemes amb què s’enfronta es tornen més i més complexos i les màquines més i més intel·ligents, la gent deixarà que prenguin cada vegada més decisions per ells, simplement perquè aquestes conduiran a millors resultats que les fetes pels éssers humans.
A la llarga es pot assolir una etapa en què les decisions necessàries per mantenir el sistema en marxa seran tan complexes que els éssers humans seran incapaços de prendre-les intel·ligentment. En aquesta etapa les màquines posseiran el control efectiu. La gent no podrà simplement apagar-les, perquè tindran tal dependència que desendollar-les equivaldria al suïcidi. – Theodore John Kaczynski – La societat industrial i el seu futur (fragment)
Deixa un comentari