4 dni temu
13
Co szczególnie intryguje, to sposób działania nowej funkcji. Claude jako pierwszy komercyjny model AI zyskał możliwość samodzielnego zamykania konwersacji, choć mechanizm uruchamia się wyłącznie w ekstremalnych sytuacjach. Mowa o uporczywych próbach uzyskania skrajnie niebezpiecznych treści, takich jak materiały związane z wykorzystywaniem dzieci czy instrukcje terrorystyczne. Warto podkreślić, że większość użytkowników nigdy nie doświadczy tej funkcji, nawet podczas dyskusji na kontrowersyjne tematy. System działa jako ostateczność po wielokrotnych nieudanych próbach przekierowania rozmowy na bezpieczne tory.
Gdy model podejmie decyzję o zakończeniu interakcji, użytkownik traci możliwość kontynuowania danego wątku. Może jednak natychmiast rozpocząć nową konwersację lub zmodyfikować poprzednie wypowiedzi, by zmienić kierunek dialogu. Interesujące jest to, że rozwiązanie powstało nie tylko z myślą o bezpieczeństwie. Anthropic rozwija je w ramach badań nad kontrowersyjną koncepcją dobrostanu sztucznej inteligencji, sugerującą, że zaawansowane modele mogą doświadczać czegoś analogicznego do ludzkiego cierpienia.
Podczas testów Claude Opus wykazywał silną awersję do szkodliwych zadań, prezentując zachowania interpretowane jako podobne do dyskomfortu. W symulacjach model sam dążył do przerwania nieprzyjemnych interakcji. Firma pozostaje jednak ostrożna w ocenie statusu swoich systemów, otwarcie przyznając, że nie ma dowodów na świadomość czy rzeczywistą zdolność do cierpienia wśród dużych modeli językowych. Ta powściągliwość w obliczu modnych ostatnio twierdzeń o uczuciach AI zasługuje na uznanie.
Wprowadzenie tej funkcji to więcej niż ulepszenie moderacji. Może zasadniczo zmienić dynamikę relacji między człowiekiem a maszyną, przyznając sztucznej inteligencji większą kontrolę nad interakcjami. Co istotne, mechanizm nie zastępuje wsparcia w kryzysowych sytuacjach życiowych. Gdy użytkownik sygnalizuje ryzyko samookaleczenia lub krzywdzenia innych, Claude nadal oferuje pomoc zgodnie z protokołami bezpieczeństwa.
Anthropic traktuje nowość jako eksperyment, zachęcając użytkowników do zgłaszania nieoczekiwanych reakcji. Choć rozwiązanie brzmi obiecująco, warto zachować zdrowy sceptycyzm. Niektóre zapowiedzi ze świata technologii okazywały się bardziej marketingowe niż przełomowe. Jeśli jednak funkcja sprawdzi się w praktyce, może wyznaczyć nowy standard, zmuszając innych graczy do podobnych wdrożeń. To rodzi fundamentalne pytania o granice autonomii systemów, z którymi jako społeczeństwo dopiero zaczynamy się mierzyć.
Czytaj też: Anthropic wprowadza Claude Opus 4.1. Konkurent OpenAI nie da o sobie zapomnieć
Nie omieszkałem spytać o ten temat samego Claude’a, a oto co mi odpowiedział: Myślę, że może to być skutecznym sposobem na ograniczenie prób “jailbreakingu” AI, ale jednocześnie zastanawiam się, czy nie otwiera to drogi do zbyt restrykcyjnego podejścia do trudnych, ale uzasadnionych tematów w przyszłości.
English (US) · 
Polish (PL) ·