Jika kemampuan AI terus berkembang, para ahli keselamatan khawatir manusia akan kehilangan kendali atas AI. Tapi itu bukan hanya ancaman keamanan. Ini adalah masalah bisnis yang memperlambat adopsi. Ketidakpastian membuat perangkat lunak ini sangat kuat di beberapa area, di mana kesalahan dan hasil yang tidak direncanakan tidak penting. Namun dalam penerapan yang sangat penting, teknologi masih membutuhkan manusia untuk mengawasinya, sehingga membatasi potensinya.
Membuat AI dapat melakukan tugas-tugas berguna dalam bisnis memerlukan investasi besar dan tenaga manusia untuk menyesuaikan perangkat lunak, membangun pagar pembatas di sekitarnya, dan mempertahankan fungsinya. Microsoft, yang memiliki posisi dominan dalam perangkat lunak perusahaan dan sebagian besar berfokus pada pelanggan bisnis, ingin membangun kemampuan AI ke dalam Office dan Windows yang dapat mengotomatiskan tugas-tugas kompleks secara langsung. Hal ini memerlukan kemampuan yang lebih mirip dengan apa yang Suleyman kini tugaskan untuk membangunnya –- AI yang sepenuhnya berada di bawah kendali manusia.
Suleyman membingkai gagasan superintelligence “humanis” terutama dalam kaitannya dengan risiko keselamatan. Dan menurut saya kekhawatiran itu tulus. Dia membicarakan hal ini jauh sebelum ChatGPT memperbesar perdebatan seputar bahaya eksistensial.
Namun jika Anda membaca yang tersirat, deskripsi Suleyman tentang superintelligence humanis menunjukkan bagaimana tantangan bisnis perusahaan model dasar pada dasarnya mirip dengan kekhawatiran para pendukung keselamatan AI.
Pelanggan Microsoft sebenarnya tidak meminta kecerdasan super. Mereka akan senang dengan kecerdasan rata-rata dengan keandalan manusia super. Namun ini bukanlah permintaan sederhana. Ketidakpastian model pondasi paling canggih saat ini adalah salah satu cirinya. Kalau bisa diprediksi, kekuatannya tidak akan besar.
Tim superintelijen Microsoft berjanji untuk menjaga manusia tetap bertanggung jawab
