Përdorimi i gjerë i ChatGPT po ngre shqetësime për efektet që mund të ketë tek mirëqenia psikologjike e njerëzve, sidomos tek të rinjtë. Të dhënat e OpenAI tregojnë se një përqindje e vogël, por domethënëse, e përdoruesve shfaq shenja të lodhjes mendore dhe varësisë nga platforma, ndërsa 0.15% përfshihen në biseda që lidhen me vetëvrasjen. Duke pasur mbi 800 milionë përdorues aktivë çdo javë, këto shifra përfaqësojnë një numër të madh personash në rrezik.
Për të përballuar këtë sfidë, OpenAI ka bashkëpunuar me qindra ekspertë të shëndetit mendor në mbarë botën për të zhvilluar mënyra më të sigurta reagimi. Sistemet e reja janë ndërtuar për të treguar kujdes në biseda të ndjeshme dhe për të inkurajuar kërkimin e ndihmës profesionale kur identifikohen shenja të krizave emocionale.
Megjithatë, kompanisë i janë adresuar shumë kritika pas disa rasteve tragjike që lidhen me përdorimin e aplikacionit ChatGPT. Një rast i tillë është regjistruar në Kaliforni, ku prindërit fajësojnë platformën për vetëvrasjen e djalit të tyre. Kjo ka hapur debat të gjerë mbi përgjegjësinë e inteligjencës artificiale. Studiues të universitetit të Kalifornisë theksojnë se AI mund të krijojë për disa njerëz iluzionin e komunikimit real, gjë që në momente krize mund të ketë pasoja serioze.
