Какво ще „взриви“ правото. Няколко глобални тенденции
д-р Мариана Тодорова
Мариана Тодорова е доктор по футурология и изследовател в Института по философия и социология към БАН. Била е народен представител в 43-то НС. Има специализации в Харвард Кенеди Скуул, Държавния департамент на САЩ и Китайската академия за управление. Представител е на глобалния Тинк танк: “Милениум проджект” в България. Участва в множество конференции по футуристика. През юни излезе първата ѝ книга в САЩ: „Future studies and counterfactual analysis. Seeds of the future“, съвместно с американския футуролог Теодор Гордън, идеолог и един от ръководителите на проекта „Аполо” за кацане на с Луната. През януари ще излезе книгата ѝ на български за изкуствения интелект.
Напоследък, в технологичния свят в изцяло позитивен знак се използва терминът „disrupt” (правя пробив, разрушавам от англ.), с което се има предвид, че множество области от човешкия живот могат да се трансформират, да станат по-ефективни и усъвършенствани чрез новите технологии. Този тренд се наблюдава и в областта на правото, като намира проявление в няколко тенденции.
Водещата и с най-мащабно влияние е навлизането на изкуствения интелект в юридическите услуги. За да внесем пределна яснота, е необходимо в началото на текста да очертаем съществуващите концепции за трите форми на проявлението му. Първата, която вече влияе на правната система, е на т.нар. „тесен“ или „слаб“ изкуствен интелект. Нарича се така, защото е създаден да адресира ограничени, единични задачи. Голяма част от сега функциониращите системи на изкуствен интелект са именно такъв изкуствен интелект, който изпълнява ясно дефинирана задача/и. Такива са: „Уотсън” на АйБиЕм, „Сири” на Епъл, „Кортана“ на Майкрософт и „Алекса“ на Амазон. Те имат определена степен на интелигентност в дадено поле, но без пълнотата, сложността и асоциациите при разсъждение, на които човек е способен. Другите изражения са „силен“ и „супер“ изкуствен интелект, равностойни и превъзхождащи човешкия, но те са все още нереализирани и в сферата на хипотезите.
Към настоящия момент изкуственият интелект вече се използва в няколко направления в правната работа:
- Автоматично генериране на правните документи;
- Прогнози за развоя на делата;
- Правен анализ;
- Електронно фактуриране;
- Отсъждане за интелектуална собственост;
- Подсигуряване на допълнителни „впечатления“ и кратки пътища в анализа;
- Автоматизиране и на самия творчески процес;
- Помощ на адвокатите да извършат дю дилиджънс и проучвания;
Оценката на правната ситуация за опциите, които клиентите имат, вече се прави от софтуер с изкуствен интелект. Има няколко компании, които предлагат подобен продукт – Kira Systems, Leverton, eBrevia, Thought River. Те предлагат разнообразни услуги – по-прецизен дю дилиджънс преди подписване на договори; прочитане и обработване на документи на 20 езика, като е възможно над 50 да бъдат обработени за около 1 минута; проверяват около 150 атрибута на договора в 12 000 кредитни споразумения само за няколко минути, което е еквивалент на 36 000 часа правна физическа работа; умеят да намират и скриват чувствителни данни при потенциални договори и други.
Тези примери ни служат да илюстрират в каква степен дори първичният, тесен изкуствен интелект навлиза в правната материя. Прогнозите сочат, че именно стремежът към ефективност и конкурентоспособност ще доведе до масово внедряване на подобни програми, за да бъдат задържани клиентите, които биха могли да изберат алтернативни, предлагани на доста по-достъпни цени услуги, когато са асистирани от изкуствен интелект.
Естония, като лидер в електронизацията на услуги и на правителството, е сред страните, които желаят да въведат изкуствения интелект в сферата на управлението и правосъдието. За редица от тези нововъведения разбираме от публикацията на Ерик Нилър: „Може ли изкуственият интелект да бъде справедлив съдия в света? Естония мисли така“[1] (“Can AI be a fair judge in the court? Estonia thinks so”).
Едно от тях е, че инспектори вече не проверяват естонските фермери, които получават правителствени субсидии дали са окосили и обработили своите земи след събирането на реколтата. Вместо надзорници, сателитни образи, контролирани от изкуствения интелект и взети от Европейската космическа агенция за периода май-октомври, захранват алгоритми за дълбоко обучение. Образите се налагат върху реални карти и така се вижда кой е коректен и кой не е отговорен. Две седмици преди крайния срок фермерите са осведомени чрез имейл, който включва сателитна снимка на тяхната земя.
Но най-амбициозният проект е да се създаде робот-съдия, който може да отсъжда по дела с малки суми. Властите се надяват по този начин да разчистят много от застоялите случаи. Пилотният проект ще бъде за разрешаване на договорни спорове. Концепцията е двете страни да заредят документите и друга необходима информация, а изкуственият интелект да предложи решения, които и човешки съдия би дал. Системата ще се напасва и подобрява, получавайки обратна връзка от адвокати и съдии. В САЩ в някои щати, сходни софтуерни алгоритми се използват за отсъждане при криминални случаи.
В тези случаи обаче възникнат нови, непознати досега предразсъдъци, за които пише Нилър – т.нар. предразсъдъци вследствие на автоматизацията. Ползвайки системата за лицево разпознаване, полицията в Лос Анджелис получава по-често предположение от платформа, базирана на изкуствения интелект, че криминално проявени лица са чернокожи или лица от латиноамерикански произход. Подобен софтуер за подбор на човешки ресурси за топ мениджърски позиции почти винаги „предлага“ профилите на бели мъже около 35 г. Тоест, виждаме, че чрез заложените големи данни софтуерът „придобива“ расови и полови предразсъдъци. Същевременно, колкото повече решения взимат и калкулират машините, толкова по-малко експертиза вследствие на човешкия опит ще бъде вкарвана отново, тъй механизмът първоначално ще действа ефективно и това ще снеме необходимостта от човешка верификация на съдържанието. Но така и тази сфера, подобно на други, плавно ще започне да се дехуманизира.
Не по-малко силно въздействие в правото ще има блокчейн технологията. Kleros[2] е отворен код платформа за разрешаване на правни казуси, която използва блокчейн технологиите и финансиране от маси (crowd funding). Тя работи като децентрализирана трета страна, която арбитрира всякакъв тип договори и спорове, от най-опростените до комплексните и сложните. Експертите, които отсъждат, са избрани на случаен принцип, като изграждат система за разрешаване на спорове, която предоставя крайни решения, които са бързи, евтини, благонадеждни и децентрализирани. Ако и двете страни в спора са съгласни техният казус да бъде отсъден по правилата на блокчейн платформата, то тя има напълно валидни и легитимни правомощия. В този случай наблюдаваме създаването на алтернатива на институциите, отговорни за правните действия – съдилищата.
Сред другите вече настъпили тенденции е феноменът на дерегулацията. Великобритания преди няколко години одобрява т.нар. Tesco law, което позволява на корпорации да предлагат широк набор от правни услуги. За сметка на това, традиционните адвокатски кантори могат да набират капитал на пазарите чрез публично предлагане на акции, което прави възможно да се състезават с всички компании, които участват на същия пазар. Така се очаква и промяна в начина, по който правните услуги се остойностяват. Аутсорсингът също се установява като трайна тенденция в правото, особено когато касае по-опростени задачи като обработка и подготовка на документация. Подобни услуги в Индия са от 10 до 20% от стойността на същите, които се предлагат в САЩ или ЕС. Затова има очакване тя да е сред страните, които ще образуват световни правни конгломерати на евтини правни услуги.
Глобализацията е сред причините правните изисквания на мултинационалните компании да растат и да стават все по-комплексни, поради което много правни компании глобализират услугите си и отварят центрове за върхови постижения, за да отговорят на изискванията на различни страни.
Напълно виртуални правни компании също са отражение на глобализацията. Те не винаги имат физически офис, а юристите работят от вкъщи от локации по целия свят, най-често на непълно работно време. Така наречените двигатели за търсене на правни услуги и други уеб базирани правни услуги в лицето на компании като CyberSettle, LegalZoom, CompleteCase, също променят начина, по който клиентите получават разнообразие от правни консултации и услуги.
Новите трендове в правото ни разкриват няколко последици, които ги съпътстват. Подобно на много други сфери, ставаме свидетели на превръщането на юридическите услуги в своеобразна стока, което от своя страна утвърждава тенденцията за различаване на правните услуги само по стойността им, а не толкова по качество. И тук навлизат множество канали за комуникация и социални медии.
Но основният проблем, който ще „взриви“ правото, няма да бъде редуцирането на необходимия брой прависти или трансформацията на тази сфера чрез сътрудничество с изкуствен интелект, а невъзможността да се дават навременни и адекватни решения на хиляди нововъзникващи казуси. Европейската комисия и редица други отговорни институции излязоха с предписания какъв да бъде изкуственият интелект, така че да е безопасен и да служи на хората. Но подобни опити са твърде далече от изграждане и постигане на консенсус по отношение на една глобална общочовешка етика, приложима към изкуствения интелект. Липсата на ценности и подобен етичен кодекс не могат да послужат за изготвянето на основа на нормативна база в тази сфера. Същевременно, генното проследяване, чрез което всеки човек ще може да бъде генетично профилиран, с което ще се произведат множество чувствителни данни, желани от социални, здравни и пенсионни фондове, вече е в ход. Генното редактиране, чрез което в близко бъдеще, ще могат да се раждат т. нар. „дизайн бебета“ от гените на повече от двама родители, също е напреднала технология.
Както вече споменахме, някои от платформите, базирани на изкуствен интелект, предявяват предразсъдъци. Банки и бордове на директори на компании също ползват сходни продукти за одобрение и взимане на решение. Подобно на дискутираните казуси с безпилотни коли и в гореописаните случаи ще се наложи да се отсъди кой носи отговорност при инцидент или незадоволително решение за хората. Дали това е компанията производител, софтуерният екип, компанията потребител или конкретното физическо лице? А може би ще се наложи да се дефинира юридически по нов начин понятието за споделена отговорност. Това са само ограничени примери от безкрайните теми, с които тепърва ще се сблъскваме и които представляват най-големите предизвикателства, с които правото ще се срещне и ще трябва да регулира.
[1] https://www.wired.com/story/can-ai-be-fair-judge-court-estonia-thinks-so/?_hsenc=p2ANqtz-9geLdu5_RsCiPYnrLiF5EQ7SWD3ZfNdUNFI3yOrDGA0BuuNZ8DysP4Rhspmu1tfpBzf3ODHpGzSWbU5K7ELoue0lGVNg&_hsmi=71139293&utm_campaign=the_algorithm.unpaid.engagement&utm_content=71139292&utm_medium=email&utm_source=hs_email
[2] https://kleros.io/about/
22
Коментирайте
Най-сетне един коментар на място. Тъкмо това се канех да напиша. Евала, колега!
Докато чета и си разлях шампанското и ми падна скаридата от устата. Доста усилия положиха гражданите и съгражданите на САЩ, в частност – да убедят някого, че всичко е ок. Господа Съединени американски щати – у лево. В сърцето на най свещената римска и древна провинция, на пъпа на Тракия, на нас – да ни преписват смучки от стари вестници, нека да си гледате и вие работата. Америка ли ще ни учи на право дето още сричат поезията. Теодор Драйзър – който е абсолютно нечетим, им се води класик. Не Марк Твен – който си е гений че – толкова… Покажи целия коментар »
А не те ли е срам да посягаш на живот заради лакомията си, съвест нямаш ли? Скариди ще ми яде! С кое право?? Я се виж само, защо се имаш за по-висш от една скарида, а?
Българското право и правосъдие ще бъдат взривени преди всичко от липсата на истински РЕФОРМИ. Такива, каквито не могат да бъдат започнати от тази правителствена сбирщина, начело с галфона от Банкя.
lex, много приятна статия
Дааа, машините ще забъркват казуси, за да ни улеснят живота, които после хората ще разрешават.
Колеги, да се върнем малко в реалността. Ние тук издаваме разписки на кочан 🙂 Страна, в която адвокатите пишат на кочан, няма защо да се бои от изкуствения интелект
Прав си, днес е ден за свиване на сарми! Киселото зеле пази и от блокчейн 😉
Големият проблем с предлагането на правни услиги по интернет, да го кажа по-опростено, който обаче не е чужд и на класическото практикуване, е как се гарантира качество на услугата. Как знаеш, че получаваш правен съвет от компетентен адвокат, а не ти пише някой, който дори може да не е стъпвал в ЮФ
Има куп прости казуси, които винаги се решават по прост алгоритъм и трябва само да го знаеш, поради което с годините се превръща в рутина. Няма пречка при напредване на изкуствения интелект да му бъдат прехвърлени тези задачи.
Няма прости казуси. Ето – погледнете най-невинен казус между съседи с тишината, примерно, бе това е умряла работа компютъра. Трънки, компютър, някой си нагласил столчето на компютъра и айде. Без справки на място не може. То и аз така засаждам картофи за любителски нужди, ма то си трябва земеделие, търчане, копане и адвокатската работа е нива.
То всичко е нива, ма както и да е.
Че то това и на живо може да стане и се случва. Имаше някакви които с години бяха практикували. А пък всъщност защо да не..? Може и да са имали по-добри резултати от пишман юристи с оргинални кетапи. В древния Рим не се е искало формално обучение за да адвокатстваш, а юрист е било призвание, не професия..
Колкото повече задълбаваме в претенциите да получаваме всичко на мига, а и да е лесно, толкова повече ще възникват и подобни казуси. В крайна сметка, въпрос на приоритети. Логиката на историята е показала до момента, че бързите решения са удобни, но по-евтини и некачествени и това важи за всяка сфера.
Точно така – затова англичаните имат една поговорка: Не съм богат, за да купувам евтино! Винаги ти излиза през носа
Може да не съм прав, но тези неща ме ужасяват! Как машина ще замени съдията? Това е най-висша оценъчна дейност, в която се търси не само автоматично пришожение на норми, а и духът на закона
A джуркане на дела между изкуствени интелекти дали ще има?
хаха, ти превъртя файла, май
Тези в Естония са го превъртяли като гледам. Робот съдия по дела с малък материален интерес… Ми че всеки юрист ще каже, че не материалният интерес определя сложността на едно дело. Много опасна е тази работа, ще знаете. Но човечеството от търсене на леснина, може да влезе в опасна черна дупка, в която да възложи справедливостта на машини.
Черните дупки у нас засега са си под тогиъе споко. Не знам колко може да са зле в Естония откъм справедливост, но надали са чак толкова зле колкото тук.
Не случайно е толкова ниско доверието към съдебната власт в бг
Ами те без друго мнозинствотп съдии не са способни или не желаят да се занимават с ъакава ‘висша оценъчна декност, така че..’
сега,колеги, да ви успокоя – туй с изкуственийо ентелект нема да го баде, да ви ка’ем – как ще взима подкуп този интелект? а как ще ви събира от девет дерета вода, за да ви каже че не сте прави,когато сте прави – тези непостижими умения на всеки БГ-съдия? А как ще твори противоречива практика както ВКС, чиято такава е като супермаркет – в зависмост от делото и страните, Ви избира, каквото му трябва? А как ще ви дава указания, които не се разбират? -ей, то да кара по закона, всеки може,ама да го суче като мустак на бай Ганя… Покажи целия коментар »