Ważne wnioski wynikają ze świeżo opublikowanego badania na temat deskilling.
Jego celem było zbadanie wpływu GenAI na myślenie krytyczne.
Autorzy piszącym o tym wpływie używają takich sformułówań:
„Cognitive offloading”
„Less critical engagement”
„Deterioration of cognitive faculties”
„Diminished skill for independent problem-solving”
„You deprive the user of the routine opportunities to practice their judgement and strengthen their cognitive musculature, leaving them atrophied and unprepared when the exceptions do arise”
Czyli
„Zmniejszenie działań poznawczych”
„Mniej krytyczne zaangażowanie”
„Pogorszenie zdolności poznawczych”
„Osłabiona umiejętność samodzielnego rozwiązywania problemów”
„Pozbawienie użytkownika rutynowych możliwości ćwiczenia osądu i wzmacniania muskulatury poznawczej, nieprzygotowanego na pojawiąjące się wyjątki”
Metoda badawcza: ankieta wśród 319 pracowników umysłowych różnych branż, opis subiektywnego odczucia wysiłku i zaangażowania w wykonywanie podstawowych czynności poznawczych z typologii Blooma (przypominanie i pozyskiwanie informacji, ich interpretacja i systematyzacja, praktyczna aplikacja, analiza, synteza i ewaluacja).
Niektóre wnioski:
Dlaczego pracownicy rezygnują z myślenia krytycznego?
(a) nadmierne zaufanie do AI (overrelience),
(b) przekonanie, że zadanie jest trywialne i „AI sobie poradzi”;
(c) presja czasu;
(d) brak formalnego obowiązku weryfikacji;
(e) brak nagradzania za dodatkowe sprawdzanie wyników;
(f) brak wiedzy domenowej (czytaj: „nie mam kompetencji aby to ocenić”) lub
(g) brak umiejętności zaawansowanego promptowania
70–80% deklaruje, że GenAI obniża ich wysiłek poznawczy (myślenie wolne / „System 2” Kahnemana) w następujących zadaniach:
(a) pozyskiwanie informacji – AI szybko wyszukuje i porządkuje dane;
(b) interpretacja i systematyzacja – łatwe streszczanie i wyjaśnianie zagadnień;
(c) generowanie wstępnych rozwiązań – szybkie tworzenie szkiców kodu, tekstów marketingowych, projektów dokumentów.
Wysiłek poznawczy rośnie na etapie syntezy lub ewaluacji odpowiedzi zwłaszcza, gdy
(a) zadanie jest skomplikowane i wymaga precyzyjnych kryteriów;
(b) AI podaje niespójne lub niezweryfikowane fakty,
(c) konieczne jest tzw. prompt engineering (formułowanie skomplikowanych lub licznych zapytań do modelu, aby uzyskać treść o ściśle wymaganej jakości).
Im wyższe zaufanie użytkownika do własnych kompetencji dziedzinowych, tym częściej i głębiej angażuje się on w krytyczną ocenę treści wygenerowanych przez AI (mimo że subiektywnie odczuwa to jako większy wysiłek).
Im wyższe zaufanie do AI, tym częstsze „odpuszczanie” krytycznego myślenia i tym rzadsza weryfikacja efektów (ergo: tym wyższa podatność na halucynacje oraz deskilling).
Podczas korzystania z narzędzi GenAI wysiłek włożony w krytyczne myślenie przesuwa się ze zbierania informacji na weryfikację informacji; od rozwiązywania problemów po integrację reakcji AI; oraz od wykonania zadania do zarządzania zadaniem. Pracownicy wiedzy stają przed nowymi wyzwaniami w zakresie krytycznego myślenia, włączając GenAI do swoich przepływów pracy z wiedzą.
Pełny raport TUTAJ
Iwo Zmyślony
Podsumowanie napisane przy wsparciu GPT o1