Интернет търсачките знаят всичко за нас
Събирането на данни от платформи като "Гугъл" им дава пълен контрол над потребителите
3.5 млрд. заявки за търсене обработва „Гугъл“ всеки ден. Потребителите се интересуват от всичко: обобщения, болести, сексуални предпочитания, криминални схеми. И така разкриват много неща за себе си: вероятно повече, отколкото самите те биха искали.
От обобщените данни могат да се направят заключения в реално време за емоционалния баланс на обществото. Какво е общото настроение? Какви са нагласите за извършване на покупки? Какъв продукт се търси в определен регион в даден момент? Откъде често се иска кредит? Запитванията са икономически индикатор. Не е много чудно, че централните банки разчитат на „Гугъл“, за да захранват макроикономическите си модели и така прогнозират поведението на потребителите.
Търсачката не е единственият измерител, който записва трептенията и движенията на дигиталното общество, но е и инструмент, генериращ предпочитания. Например, ако промените маршрута си, изготвен с помощта на картите на „Гугъл“, отразяващи задръстванията, то ще промените не само своето поведение, но и това на другите хора на пътя, тъй като сменяте параметрите на симулацията с личните ви данни.
Чрез използването на вградените в смартфоните акселерометри (б.р. уреди, измерващи ускорението на движещи се обекти) „Гугъл“ може да каже дали някой кара колело, шофира автомобил или върви пеша. Ако кликнете върху алгоритмично генерираната търсачка, която „Гугъл“ предлага, при написването „Меркел“ например се увеличава вероятността автоматичният механизъм да покаже това и на други потребители. Математическите модели създават нова реалност. Поведението на милиони потребители се обуславя от непрекъсната обратна връзка. Непрекъснато, но и контролирано.
Италианският философ и медиен теоретик Матео Паскуилини, който преподава изкуство и дизайн в университета в Карлсруе, представи хипотезата, че масовата употреба на данни създава възможност за нова форма на контрол: т.нар. „общество на метаданни“. С метаданните новите видове биополитически контрол могат да се използват за установяването на масов и поведенчески контрол, подобно на онлайн активността в социалните медии или на пътникопотока в обществения транспорт. „Данните не са числа, а диаграми на това, което ни заобикаля; нови полета на знания, които разкриват променливия свят и обществото като цяло: окото на алгоритъма или алгоритмична визия“, пише Паскуилини.
Натрупването на данни и числа чрез информационното общество е достигнало до точка, в която те се превръщат в пространство и създават нова топология. Обществото на метаданните може да бъде приемано като продължение на кибернетично контролираното общество, пише той. „Днес вече не става въпрос за определянето на позицията на индивида (информацията), а за разпознаването на общата тенденция на масата (метаданните).“
Смъртоносни изводи
Паскуилини не вижда проблем в това, че индивидите са подложени на строг контрол (както са били в Германия по времето на ЩАЗИ), но се притеснява, че обществото като цяло е станало изчислимо, предвидимо и контролирано. Той дава пример с програмата за масово следене SKYNET на американската Агенция за национална сигурност (АНС), чрез която терористите са идентифицирани по данните от мобилните телефони в пограничните райони между Афганистан и Пакистан. Програмата анализира и обобщава ежедневните дейности на 55 милиона потребители на телефони, подобно на парчета от огромен пъзел: Кой с кого пътува? Кой има общи познати? Кой остава да преспи у приятел през нощта? Специален алгоритъм анализира метаданните и изчислява каква е опасността да се превърне в терорист всеки потребител.
„Убиваме хора на базата на метаданни“, призна бившият шеф на АНС и на ЦРУ Майкъл Хейдън.
Хладнокръвното презрение към човечеството, което се съдържа в това изречение, ни кара да потръпнем. Военна цел вече не е човекът, а само сумата от неговите метаданни. „Алгоритмичното око“ не вижда терорист, а подозрителна връзка в мъглата от облаци с данни. Това означава, че който има подозрителни връзки или модели, бива ликвидиран.
Хиляди хора са убивани при атаки с безпилотни самолети, нареждани на базата на направени чрез SKYNET разкрития. Не е ясно колко много невинни хора са ликвидирани така. Методологията е спорна, тъй като алгоритъмът на машината се учи само от вече идентифицирани терористи и „на сляпо“ пресъздава тези резултати. Това означава, че който има същите траектории – това са метаданни – като терорист, изведнъж започва и той да бъде смятан за такъв. Въпросът е колко добре е създадена тази алгоритмична визия.
„Какво ще стане, ако алгоритъмът на „Гугъл“ Trend се използва за социални въпроси, политически митинги, стачки или за вълненията в периферията на големите градове в Европа?“, пита Паскуилини.
Експертите по данните са вманиачени на тема прогнозиране на човешките взаимодействия, подобно на прогнозата за времето. Специалистите от школата „Социална физика“, основана от експерта по данни Алекс Пентланд, гледат на света все едно, че имат висококачествен микроскоп: обществото се състои от атоми, чиито ядра са заобиколени от индивиди, гравитиращи като електрони в орбитите. Основателят на „Фейсбук“ Марк Цукърбърг преди време каза, че вярвал, че има „основен математически закон, който показва социалните връзки на хората“. Любов? Работа? Престъпление? Всичко е определено, всичко може да се прогнозира! Все едно че обществото е линейна система от уравнения, в която различни неща могат да бъдат отстранени.
Контрол и предвидимост
В научнофантастичната поредица „Фондация“ на Айзък Азимов математикът Хари Селдън разработва измислената наука психоистория, която комбинира елементи от психологията, математиката и статистиката. Психоисторията създава общество според физикохимията. Това означава, че човек трябва да се приема като газова молекула. И затова хаотичните движения на индивида не могат понякога да бъдат изчислени, но общият курс и „обединеното“ общество могат да бъдат прогнозирани с помощта на статистически закони.
В един от разказите император Клеон казва на математика: „Няма защо да предсказваш бъдещето. Просто избери едно бъдеще, едно добро, полезно бъдеще и направи предсказание, което да промени човешките емоции и реакции, така че предсказаното да бъде постигнато“. Въпреки че Селдън отхвърля този план като „невъзможен“ и „непрактичен“, той отлично описва техниката на социалното инженерство, при която реалността и социалният живот са организирани, а хората са сведени до физическите си характеристики.
Това показва нова властова техника: тълпата вече не е контролирана, а предвидима. И това е диалектически въпрос: нейната предвидимост е напълно контролирана. Ако знаете накъде е тръгнало обществото, групите могат да бъдат насочвани в желаната посока чрез техники за манипулиране като подтикване, да се вземе предимство от психологическата слабост.
Наскоро направен за вътрешно ползване клип на „Гугъл“, изтекъл в интернет, показва поведенческия модел на Selfish Ledger – централизиран регистър, в който се събират данните за всички потребители: посещавани сайтове, поведение, тегло и здравословно състояние. На базата на тези данни „Гугъл“ предлага индивидуални възможности за действие: да се яде по-здравословно, да се защитава околната среда, или да се окаже подкрепа на местния бизнес. Аналогично на последователността на ДНК, може да се направи „последователност на поведението“ и да се определят поведенческите модели. Точно както ДНК може да бъде променена, така и поведението може да бъде променено. Крайният резултат на тази еволюция ще е идеално програмирано човешко същество, което се контролира от системите на изкуствения интелект.
Заплахите, които крие този алгоритъм, не са само в това, че се контролира от тъмни стаи в частни корпорации, а че може да бъде въведен техно-авторитарният политически модел. Чрез него масите ще станат политико-физическа величина. Натрупани данни дават възможност за политически дискурс. Визионерите в сферата на технологиите възприемат политиката от гледна точка на кибернетиката: целта е да се избягват „смущения“ и да се запази балансът в системата. Китайската търсачка „Байду“ разработи алгоритъм, който може да прогнозира до три часа предварително къде ще се образува тълпа от хора („критична маса“). Програмният код става средство за превантивна политика. Политиците обещават, че са отворени към бъдещето и са гъвкави. Когато обаче поведението на индивидите, групите и обществото стане предвидимо, то няма смисъл от политическо взимане на решения. Там, където всичко е предварително решено, вече нищо не може да се промени.
Тази публикация е част от ежедневния преглед на печата на правна тематика
1
Коментирайте
Uma revolução está a acontecer! https://gptportugues.com/ está a apresentar ChatGPT Portugues, a ferramenta gratuita e completa de Inteligência Artificial para gerar linguagem. Esta incrível plataforma permite que empresas e indivíduos gerem conversas ilimitadas em linguagem natural – tudo de graça!
O ChatGPT Português aproveita os poderes da tecnologia de Geração de Linguagem Natural (NLG) usando a revolucionária API da OpenAI para traduzir dados em conversação – permitindo-lhe comunicar eficazmente com as suas aplicações ou serviços – à velocidade da luz. Agora, pode criar diálogos para os seus projectos de forma rápida e fácil, sem qualquer experiência prévia em programação.