Ministerstwo Cyfryzacji apeluje do studentów, by z rozsądkiem wykorzystywali ChatGPT. Zagrożeniem są "halucynacje" sztucznej inteligencji, w wyniku których wiedza przekazywana przez AI może nie być odzwierciedleniem rzeczywistości, a przez to wiarygodnym źródłem wiedzy.
Ministerstwo Cyfryzacji opublikowało w mediach społecznościowych wpis, w którym ostrzega przed zagrożeniami płynącymi z nieprzemyślanego wykorzystywania usługi ChatGPT w czasie realizacji uczelnianych projektów czy zadań. Chociaż w rękach wielu osób ChatGPT jest nieocenioną pomocą, nie zmienia to faktu, że bywa omylny, przez co nie można postrzegać go jako "idealnego" źródła pomagającego w odrabianiu prac - a niektórzy z pewnością tak robią.
Jak zwraca uwagę Ministerstwo Cyfryzacji, ChatGPT działa w oparciu o wiedzę, którą wcześniej został wytrenowany. Nie ma jednak umiejętności weryfikowania faktów, a mimo to potrafi tworzyć teksty brzmiące w pełni przekonująco - jedynie na podstawie tego, co wcześniej "odczytał" z innych artykułów. W konsekwencji może tworzyć odpowiedzi, które brzmią na przykład jak definicje z encyklopedii, mimo że nie ma całkowitej pewności, że udzielana odpowiedź czy porada jest prawdziwa.
ChatGPT to nie wszystko
Chociaż ChatGPT może być więc cennym narzędziem w rękach każdego studenta, warto znać jego ograniczenia. Podobnie jak każde inne oprogramowanie i usługa, bywa po prostu omylny, a przez to nie można traktować podawanej przez niego wiedzy jako ostatecznego rozwiązania danego problemu, bez wcześniejszej weryfikacji źródeł we własnym zakresie.
Halucynacje AI to typowe zagrożenie przypisywane głównie chatbotom. Konieczność dostarczenia użytkownikowi możliwie szybkiej odpowiedzi na zadane pytanie i praca w oparciu o wiedzę, którą trudno zweryfikować przez automat, prowadzą do generowania odpowiedzi, które nie zawsze są zgodne z prawdą. Nie jest to intencjonalne działanie AI, jednak bez wątpienia z punktu widzenia użytkownika należy uznać je za wadę.
Komentarze
1