Skrzynka sztucznej inteligencji (AI) to skrzynka teoretyczna — taka jak komputer bez zewnętrznego kontaktu — zawierająca system AI i mająca na celu oddzielenie systemu AI od świata, dopóki nie zostanie uznany za bezpieczny do uwolnienia. Pudełko wchodzi w grę w racjonalnym i symulowanym eksperymencie rzeczywistości, który dotyczy systemu AI próbującego przekonać człowieka do wyjęcia go z pudełka. Część pytania o skrzynkę AI określa parametry sprzętu, w szczególności to, że skrzynka jest izolowanym systemem bez możliwości wyjęcia z niego bez interwencji człowieka. System jest zazwyczaj mądrzejszy od człowieka, mimo że jest odizolowany, ponieważ niektóre systemy AI mają możliwość przepisania oryginalnego kodu. Ta symulacja zwykle wykorzystuje dwie osoby, z których jedna działa jako sztuczna inteligencja i próbuje przekonać drugą osobę, aby ją wypuściła.
W scenariuszu AI box jest to izolowany system AI, który nie ma zewnętrznego połączenia z innymi systemami. Oznacza to, że nie ma sieci, komputerów, połączeń internetowych, ludzi ani niczego innego, co wchodzi w interakcję z pudełkiem, zanim człowiek z nim rozmawia. Podczas tego eksperymentu pudełko próbuje przekonać osobę do wypuszczenia go z pudełka, na przykład poprzez sieć wychodzącą.
Podczas tego eksperymentu często zakłada się, że skrzynka AI jest mądrzejsza niż większość lub wszyscy ludzie. Przyczyny tego można znaleźć w prawdziwym świecie, ponieważ niektóre systemy AI są w stanie przepisać swoje oryginalne kodowanie. Nawet jeśli te systemy AI nie mają interakcji z zewnątrz, mogą zmienić swoje kodowanie, aby uzyskać lepszą prędkość przetwarzania, wyższy poziom inteligencji i lepsze zrozumienie danych.
Kiedy ten eksperyment ma miejsce, zwykle odbywa się między dwiema osobami. Jedna osoba działa jako skrzynka AI, a druga jest osobą, która zadecyduje, czy skrzynka się wydostanie. Powodem, dla którego w tym eksperymencie są dwie osoby, począwszy od 2011 r., większość systemów sztucznej inteligencji nie może prowadzić pełnych i rozszerzonych rozmów bez błędów logicznych, czy to z powodu ludzkiej składni, czy też błędnych przekonań na temat tego, co mówi ta osoba.
Chociaż niektóre eksperymenty na skrzynkach z SI mogą nie mieć warunków, zazwyczaj istnieją pewne warunki, aby eksperyment był bardziej realistyczny. Na przykład zwykle obowiązuje limit czasu wynoszący dwie godziny, a eksperymentu nie można przedwcześnie przerwać, chyba że AI wygra. Inne typowe warunki obejmują niemożność zaoferowania przez sztuczną inteligencję przedmiotów lub kary, aby przekonać osobę, obie strony muszą pozostać w ciągłej interakcji, a osoba nie może zażądać czegoś niemożliwego z pudełka AI.