Конференция на столичната адвокатура
Адвокатите, предизвикателството „изкуствен интелект“ и насоките за използването му
„Изкуственият интелект – заплаха или ново поле за развитие на адвокатската професия? Готови ли сме за предизвикателството?“. Така беше озаглавена конференцията, с която Софийската адвокатска колегия (САК) отбеляза Деня на адвоката.
„Избрахме да отбележим празника с една предизвикателна тема – не само за адвокатите, но и за цялото човечество“, каза председателят на САК Стефан Марчев пред пълната зала в хотел „Астория“, чийто интерес не спадаше с напредването на деня (Поради изключително голямата палитра от теми, която не позволява да бъдат обобщени, без да бъде пренебрегнат някой съществен аспект, публикуваме по-долу връзка към конференцията, за да може всеки, който се интересува от ИИ сам да изслуша лекторите).
Марчев посочи, че днес не е празник само на адвокатите, а на цялото правосъдие. „Без адвокати няма как да функционира нормална правосъдна система, която да носи усещане за справедливост – за мен това е празник за всички, за които правосъдието е мисия, независимо какво роля имат за неговото осъществяване“, каза той.
„Солидаризирам се, че това е празник на всички които милеят за правото и за правосъдието“, каза министърът на правосъдието Мария Павлова, която дойде лично да поздрави столичните адвокати за празника. Председателят на Софийския градски съд Алексей Трифонов и зам.-председателката на Софийския Районен съд Боряна Петрова също уважиха лично адвокатите, а председателят на Върховния касационен съд Галина Захарова изпрати писмени поздравления.
Пред адвокатите министър Павлова говори за това как изкуственият интелект (ИИ) ще засегне правните професии. „Настъпването на ИИ често се разглежда с комбинация от оптимизъм и скептицизъм от прав
ните професия – че ще е полезен за преглед на практиката и анализ на договори, но че ще отнеме работа на юристите, че може да намали разходите и да подобри ефективността, но налага развитието на нови рамки и регулации“, каза тя. Павлова посочи, че Актът за ИИ на Европейския съюз е пример за проактивно законодателство, целящо балансиране на иновациите с етичните съображения. А в национален план пред Министерството на правосъдието стои задачата да подготви законодателни промени във връзка с прилагането на Регламент (ЕС) 2023/2844 относно цифровизацията на съдебното сътрудничество и на достъпа до правосъдие по трансгранични гражданскоправни, търговскоправни и наказателноправни въпроси и за изменение на определени актове в областта на съдебното сътрудничество, по които е сформирана работна група.
Зам.-председателят на Висшия адвокатски съвет Валя Гигова пожелана на колегите си здраве и много сили, за да служат на хората. „Правото е преди всичко любов към човека. Адвокатската професия е обречена да служи на хората, а това изисква здраве, сили, енергия и вдъхновение. Адвокатът не само съветва и помирява, той най-вече възпитава и носи послание да уважаваме закона, за да бъдем равни пред него, да уважаваме ближните си и съда“, каза тя. И напомни, че адвокатът е и общественик и затова трябва да реагира, за да може да бъде възстановена обществената справедливост.
Председателят на Българската асоциация на софтуерните компании (БАСКОМ) Доброслав Димитров очерта развитието на ИИ, което често се нарича Пета индустриална революция. Той говори за скоростното напредване на ИИ и как той вече е по-умен от 95% от хората. Димитров наблегна на необходимостта Европа, която има много повече учени от САЩ и Китай, да увеличи конкурентоспособността си, тъй като другите две геополитически сили инвестират огромни суми в развитието на ИИ, а Старият континент изостава.
Той говори и за разликата в подхода на ЕС и САЩ и за това, че докато Европа се опитва да въведе регулации за ИИ, то избраният за президент на САЩ Доналд Тръмп обяви, че ще отмени тези, приети от предшественика му Джо Байдън.
„Да заявиш, че регулираш ИИ е като да заявиш, че регулираш как се разлиства гората и изгрява слънцето“, заключи той и подчерта, че от тежките регулации се възползват големите компании, тъй като само те разполагат с големи екипи от юристи.
Футуристът доц. Марияна Тодорова също изтъкна огромните трудности да се регулира ИИ. „Може би вървим към т.нар. флуидно или течно право, което е близко до прецедентното и технологиите да се регулират съгласно водещи принципи“, каза тя.
Тодорова представи рисковете пред адвокатите. Тя посочи, че ИИ има предразсъдъци, които са следствие от човешките предразсъдъци. „ИИ има и халюцинации“, каза тя и обясни, че това се случва, когато ИИ не намери конкретен отговор на питането в базата си данни и се организира за приблизителен отговор. Типичен пример на жертва на халюцинациите на ИИ е адвокат от Ню Йорк, който беше лишен от права, тъй като пред съда се позовал на 12 несъществуващи дела. ИИ ги измислил, за да му даде отговор.
Председателят на Комисията по неприкосновеността на личния живот и цифровите права на човека на Международния съюз на адвокатите (UIA) Жереми Бенсусан представи Насоките за използване на ИИ от адвокати, приети от съюза и предоставени на български език от Софийския адвокатски съвет.
Поради значимостта им „Лекс“ ги публикува в цялост, а с коментарите и разясненията му можете да се запознаете във видеото по-горе:
- Обхват на приложение на насоките на UIA за ИИ и дефиниция за ИИ
Насоките на UIA за ИИ са предназначени да се прилагат от всички адвокати, които използват ИИ в практиката си, във всички държави. Понятието ИИ е използва в широк смисъл, като означава всяка софтуерна или машинна система, която е проектирана да разбира език, да се учи от опита си, да генерира съдържание, да прави прогнози, препоръки, решения и др., по начин подобен на човешките умения и възможности, включително – но не само, генеративен ИИ, машинно обучение, дълбоко обучение или друг подобен или аналогичен инструмент или функция, които съществуват в момента или могат да се появят в бъдеще.
- Основно разбиране за ИИ
ИИ предоставя както значителни възможности така и рискове, когато бива използван в юридическата професия. Поради това, преди да се използва ИИ в практиката, адвокатите следва да са сигурен, че те притежават широки познания в (1) правната система, която възнамеряват да използват; `(2) източниците на данните, използвани при обучението на системата; (3) как всички данни, въведени в системата от потребителя, ще бъдат използвани в бъдеще (напр. дали тези данни могат да се запазят от разработчика на ИИ и да се използват за обучение на моделите на разработчика на ИИ); и (4) надеждността на резултатите и риска от халюцинации, за да могат да разберат ограниченията на системата и да са наясно със свързаните с нея рискове и свързаните с тях правни последици. Освен това потребителите винаги трябва да проверяват съответните условия на системата ИИ, която възнамеряват да използват.
- Конфиденциалност, поверителност и защита на данни
Използването на системи, базирани на ИИ, от адвокатите създава рискове за запазването на клиентската тайна, поверителността на съобщения между адвокатите, неприкосновеността на личния живот и задълженията за защита на данните. Ето защо, когато използват ИИ системи, адвокатите трябва да: (1) винаги да преглеждат условията на избрания ИИ, за да определят как той ще използва въведената в него информация; (2) когато е възможно, да избират ИИ, който не съхранява въведената от адвоката информация, или ИИ, който само съхранява и използва тази информация в полза на потребителя и който няма да споделя тази информация с други лица; (3) когато условията по точка (2) не могат да бъдат изпълнени, е добре да заличите всички данни и информация, които могат по някакъв начин да идентифицират клиенти и/ или конкретни дела; и (4) във всички случаи избягвайте да споделяте с ИИ особено чувствителна информация, като например здравни данни, пароли, търговски тайни и др.
- Задължение за компетентност и спазване на правилата на професионалната етика
Адвокатите са длъжни да приемат да извършват само услуги, които могат да изпълняват компетентно. Поради това адвокатите не трябва да използват ИИ, за да дават съвети по правни въпроси, за които нямат достатъчно знания или опит, и трябва да спазват и всички други приложими правила за професионална етика.
- Отношения с клиентите
Адвокатите трябва да поддържат прозрачна комуникация с клиентите си, като ги информират за използването на ИИ системи, целите на това използване и взетите предпазни мерки. Във всеки случай, адвокатите трябва да се уверят, че стратегията за всяко дело, което поемат за своите клиенти, и изпълнението на тази стратегия се определят и извършват от тях самите, а не от ИИ, като се разбира, че професионалната преценка не може да бъде делегирана на ИИ. Освен това, ако информацията и документацията на клиента ще бъдат използвани за обучение на ИИ система, клиентът трябва да бъде информиран и да се получи неговото съгласие.
- Отношения с други адвокати и трети страни
Използването на ИИ системи за транскрибиране, обобщаване и/или превод на срещи (провеждани лично или дистанционно) или телефонни разговори може да се осъществи само със съгласието на всички участници, като се разбира, че транскрипцията, обобщението или преводът няма да се считат за официален документ, освен ако не са одобрени от всички участници. При спазване на задълженията за професионална тайна и правилата за правна професионална привилегия, в своите взаимодействия с други адвокати и трети страни, адвокатите трябва прозрачно да разкриват всяко използване на ИИ системи, включително включването в тези системи на информация и данни, получени от такива взаимодействия. Обучението на младши адвокати не трябва да се делегира основно на ИИ системи, за да се гарантира, че личното предаване на знания и опит се запазва. Адвокатите, работещи в партньорство с други колеги или с лица от други професионални организации, се насърчават да приемат ясни и съгласувани политики относно използването на ИИ.
- Отговорност
Адвокатите са и остават напълно и единствено отговорни за всяко решение, действие или съдържание, създадено от тях, което е било създадено от ИИ или е базирано на изследвания, предложения или прогнози, направени от или с помощта на ИИ. Адвокатите също трябва да се уверят, че използването на AI е покрито от тяхната професионална застраховка.
- Проверка на резултатите и задължение за надзор
Като се имат предвид рисковете, свързани с използването на AI системи, адвокатите винаги трябва да имат задължението да проверяват, че (1) всяко законодателство, съдебна практика или правна литература, цитирано от ИИ, действително съществуват и са цитирани правилно; и (2) всяко съдържание, идентифицирано или създадено от ИИ или с помощта на ИИ, е правилно, точно, изчерпателно и приложимо към действителния набор от факти на съответния конкретен случай, както и съответстващо на приложимите закони и правила за професионално поведение, за да се предотвратят грешки, халюцинации или нарушения на законите. Адвокатите трябва винаги да упражняват критичен анализ и надзор върху резултатите, произведени от ИИ, и никога да не използват директно тези резултати или да разчитат на тях, без първо да ги прегледат и проверят. Също така, адвокатите не трябва да създават неконтролирани правни ботове, които отговарят автономно на правни въпроси, зададени от действителни или потенциални клиенти, без да уточнят, че това е информация, генерирана от ИИ, а не персонализиран и контролиран съвет.
- Съответствие с нормативните изисквания
Адвокатите трябва постоянно да усъвършенстват уменията си и да гарантират, че използването от тях на ИИ (1) е в съответствие с нормативните и правните изисквания, приложими в техните юрисдикции; и (2) е в съответствие със съдебната практика. Това включва разбиране на съответните закони и разпоредби (включително международни, национални, регионални и местни разпоредби), както и спазване на съществуващите насоки на регулаторните органи и професионалните организации.
- Съдебни такси и разходи
Що се отнася до адвокатските хонорари, адвокатите следва да ги определят по балансиран и прозрачен спрямо клиента начин, като вземат предвид икономията на време, разрешена от изкуствения интелект, разходите, свързани с нейното създаване, обучение и използване, както и че адвокатът носи отговорност за съдържанието, създадено от или с подкрепата на ИИ.
- Реклама и маркетинг
Адвокатите трябва да бъдат особено внимателни, когато използват ИИ за рекламни и маркетингови цели, и да възприемат етични и прозрачни стратегии. По-специално, адвокатите трябва да се уверят, че рекламите, направени с помощта на ИИ, не нарушават задължението им за поверителност и компетентност и/или – когато е приложимо – правилата, които не позволяват преки контакти с потенциални клиенти. Освен това, когато използват чат-ботове, за да отговарят на общи въпроси, задавани от настоящи или потенциални клиенти, относно адвоката/адвокатската кантора или предлаганите правни услуги, адвокатите следва да пояснят на тези клиенти, че те не общуват с човек, а със система на ИИ.
- Общи предпазни мерки и етично използване на ИИ
Адвокатите трябва: (1) да гарантират, че дейностите, извършвани от всеки ИИ, могат да бъдат проследени, включително чрез регистриране на дневници и, когато е възможно, чрез записване на входни данни/ покани на потребителя; (2) да предприемат засилени мерки за защита на киберсигурността на данните, обработвани с ИИ; (3) да обръщат особено внимание на използването на ИИ, които не са предоставени от надежден източник; и (4) да осъзнават, че използването на който и да ИИ носи – без ограничение – риск от нарушаване на права върху интелектуална собственост, разкриване на търговски тайни, нарушаване на правата на неприкосновеност на личния живот и защита на данните, както и нарушаване на правила, разпоредби и/или закони, свързани с клевета, дискриминация и търговия с вътрешна информация. Като се има предвид, че използването на ИИ може да породи значителни рискове за правата на човека и може да доведе до непредвидени последици, засягащи индивидуалните свободи и защити, юристите трябва да могат ефективно да идентифицират такива рискове и да работят активно за предотвратяване, намаляване и справяне както с настоящите, така и с потенциалните бъдещи вреди. Освен това адвокатите трябва да гарантират, че използването на ИИ в практиката им се придържа към най-високите етични стандарти и социални ценности, които се прилагат в техните общности. Този ангажимент включва, но не се ограничава само до това, да се спазват правата на човека, признати в международното право, да се избягва дискриминацията и да се поддържа върховенството на закона.
22
Коментирайте
ГАРАНТИРАНО: За 21 дни ще правите жесток секс като порнозвезда – ще увеличите трайно пениса си със 7 см и ще започнете да получавате ерекция за 3 секунди (твърда като стомана, колкото дълго искате),прочетете повече тук–- https://come.ac/Menstill
Ще контролирате ИИ точно толкова, колкото контролирате в колко часа да изгрява Слънцето
Гигов се презентира като визионер.
Смях в залата.
Беше редно на тази конференция да потърсите мнението и на изкуствения интелект по темата. Например-директно в зала да поискате на живо, директно, без предварителна подготовка, изкуственият интелект да посочи съображенията си по темата.
Не виждам на конференцията ИИ ИД.
Наистина трябва са се вземат сериозни предпазни мерки.
Разбира се, че този вид интелект е сериозна заплаха.
Монетата има две страни.
Хванали сте се за тази тема, защото виждате реална конкуренция май …и голееемо ШУБЕ, че ще ви вземат работата. Е, така както един „елитен“ адвокат може да прецака деца, чиито родители си ги делят, с безсмислени спорове и роене на дела, с измислени домашни насилия, извършени през 10 минути, които се третират като отделни актове на насилие, респективно се завеждат няколко дела….никой изкуствен интелект не може да се слави.
Защо пък не бъде въведено ограничение адвокатските кантори да могат да ползват само лицензиран ИИ, който те самите са обучили, или плащат на друг за ползването на такъв, така би се запазила „естествената“ конкуренция на пазара и биха лъснали посредствените участници със спорна юридическа подготовка и практически умения да тълкуват закона.
Така например мога да си възпитам собствено „AI Бухалче“, което да ползвам за по-бърза обработка на информация в собствения ми стил, а ако се издъни с тъп съвет, ще си го наказвам, като му дърпам шалтера и държа на студено, да речем.
#TамагочиЮрист
Ние каквито сме бавни във всичко, ще мине бая време
Очаквам и AI да стане адвокат. Той художник и поет стана. Защо да не е и прагматик юрист. Това е по-лесно
Хубаво е да се ползва АИ. Без нали екстремности
Дано го прочете някой
Хубав анализ правите
Искаме повече модернизация
Чакайте да дойдат копейките. Ще ни върнат в началото на 20 век
AI е инструмент. Трябва да го ползваме рязумно
Добри насоки
Не го използвайте просто
Аман от конференции и семинари, това за някои e просто бизнес…