Директорката на компанијата за вештачка интелигенција Сигнал, Мередит Витакер, со својот став за четботовите ги предупреди корисниците дека не треба да се однесуваат со нив како со своите пријатели, а уште помалку да им бидат доверливи соговорници. Според неа, системите што бараат пристап до приватни податоци, како пораки, календари и платежни картички, постепено се претвораат во нова алатка за надзор.
На прашањето за последиците врз приватноста што ги носат четботовите како ЧетГПТ и Клод, Витакер нагласи дека станува збор за технологии кои не поседуваат свест ниту способност да нè разберат.
– Тие не се ваши пријатели. Тие не се свесни суштества и не се разумни соговорници, предупреди таа, отфрлајќи ја сè пораспространетата практика корисниците да развиваат емоционален однос кон системите за вештачка интелигенција и да ги доживуваат како доверливи придружници.
Во интервју за Блумберг таа изјави дека таканаречената агентска вештачка интелигенција, што ја промовираат големите технолошки компании како Мајкрософт, претставува нов метод за масовен надзор.
-И самата повремено користам ВИ алатки, но само за одредени задачи, призна Витакер, сопственичка на невладината организација Сигнал. Ги користам одвреме-навреме за обликување на некој документ, но поставувам јасни граници. Не им поставувам прашања, истакна таа.
Според неа, важно е самостојното размислување и процесот на пишување, нагласувајќи дека не сака развивањето идеи да биде прекинато или засенето од одговорите на систем кој само ги обработува и комбинира веќе постојните информации.
– Особено сум против ВИ агентите-системи дизајнирани самостојно да извршуваат задачи во име на корисникот, како испраќање пораки, организирање состаноци, управување со распоредот или купување производи, истакна Витакер. Според неа, главниот проблем се појавува во моментот кога овие алатки бараат пристап до чувствителни лични податоци. За да можат да функционираат како што е замислено, ВИ агентите мораат да добијат пристап до електронска пошта, приватни разговори, календари, контакти, информации за локација и податоци за плаќање. Ваквиот модел создава сериозни ризици за приватноста и отвора прашања за тоа кој има пристап до податоците, како тие се обработуваат и до кој степен корисниците ја губат контролата врз сопствените информации, предупредува Витакер.
Ваквите предупредувања доаѓаат во период кога технолошките компании сè поинтензивно инвестираат во развој на ВИ агентите, дигиталните асистенти способни самостојно да комуницираат со други апликации и услуги во име на корисникот.