AI bukan lagi sekadar chatbot sederhana; teknologinya telah berkembang menjadi mesin yang mampu mengambil keputusan rumit secara mandiri. Pertanyaan besarnya kini adalah, bagaimana kita memastikan mesin-mesin ini tetap aman dan bermanfaat?

Di sinilah peran "penyelarasan AI" (AI Alignment) muncul, di mana para filsuf dan ilmuwan sosial bertindak sebagai penjaga tak terlihat untuk memastikan AI tetap berada dalam koridor yang tepat.

AI, Kesadaran, dan Jiwa

:
Kamu sedang berbincang dari hati ke hati dengan sebuah chatbot. Chatbot itu menanyakan bagaimana hari mu, merespons dengan empati, dan membuat Kamu merasa didengarkan. Apakah itu hubungan yang tulus, ataukah hanya trik sulap yang sangat canggih?😄

Inilah tepatnya yang menjadi dilema harian bagi filsuf Amanda Askell—yang secara harfiah dibayar untuk memikirkan hal-hal seperti ini di perusahaan AI Anthropic—setiap hari.