Eksklusif-Startup AI baru yang berfokus pada keselamatan milik salah satu pendiri OpenAI, Sutskever, SSI, mengumpulkan $1 miliar Oleh Reuters

Oleh Kenrick Cai, Krystal Hu dan Anna Tong

SAN FRANCISCO/NEW YORK – Safe Superintelligence (SSI), yang baru didirikan oleh mantan kepala ilmuwan OpenAI Ilya Sutskever, telah mengumpulkan $1 miliar dalam bentuk tunai untuk membantu mengembangkan sistem kecerdasan buatan yang aman yang jauh melampaui kemampuan manusia, kata eksekutif perusahaan kepada Reuters.

SSI, yang saat ini memiliki 10 karyawan, berencana menggunakan dana tersebut untuk memperoleh daya komputasi dan merekrut talenta terbaik. Perusahaan akan berfokus pada pembentukan tim peneliti dan teknisi yang sangat tepercaya yang terbagi antara Palo Alto, California dan Tel Aviv, Israel.

Perusahaan tersebut menolak untuk membagikan valuasinya, tetapi sumber yang dekat dengan masalah tersebut mengatakan bahwa perusahaan tersebut dinilai senilai $5 miliar. Pendanaan tersebut menggarisbawahi bagaimana beberapa investor masih bersedia untuk membuat taruhan besar pada bakat luar biasa yang berfokus pada penelitian AI dasar. Itu terjadi meskipun minat untuk mendanai perusahaan semacam itu secara umum menurun, yang dapat merugi untuk beberapa waktu, dan yang telah menyebabkan beberapa pendiri perusahaan rintisan meninggalkan jabatan mereka untuk perusahaan teknologi raksasa.

Para investor termasuk perusahaan modal ventura terkemuka Andreessen Horowitz, Sequoia Capital, DST Global, dan SV Angel. NFDG, sebuah kemitraan investasi yang dijalankan oleh Nat Friedman dan Kepala Eksekutif SSI Daniel Gross, juga turut berpartisipasi.

“Penting bagi kami untuk dikelilingi oleh investor yang memahami, menghargai, dan mendukung misi kami, yaitu mengambil langkah langsung menuju kecerdasan super yang aman dan khususnya meluangkan waktu beberapa tahun untuk melakukan penelitian dan pengembangan pada produk kami sebelum memasarkannya,” kata Gross dalam sebuah wawancara.

Keamanan AI, yang mengacu pada pencegahan AI agar tidak menimbulkan bahaya, menjadi topik hangat di tengah kekhawatiran bahwa AI jahat dapat bertindak melawan kepentingan umat manusia atau bahkan menyebabkan kepunahan manusia.

RUU California yang berupaya memberlakukan peraturan keselamatan pada perusahaan telah memecah belah industri. RUU ini ditentang oleh perusahaan seperti OpenAI dan Google (NASDAQ:), dan didukung oleh Anthropic dan xAI milik Elon Musk.

Sutskever, 37 tahun, adalah salah satu teknolog paling berpengaruh dalam bidang AI. Ia mendirikan SSI pada bulan Juni bersama Gross, yang sebelumnya memimpin inisiatif AI di Apple (NASDAQ:), dan Daniel Levy, mantan peneliti OpenAI.

Sutskever adalah kepala ilmuwan dan Levy adalah ilmuwan utama, sementara Gross bertanggung jawab atas daya komputasi dan penggalangan dana.

GUNUNG BARU

Sutskever mengatakan usaha barunya masuk akal karena dia “mengidentifikasi gunung yang sedikit berbeda dari apa yang sedang saya kerjakan.”

Tahun lalu, ia menjadi bagian dari dewan induk nirlaba OpenAI yang memilih untuk menggulingkan CEO OpenAI Sam Altman karena “gangguan komunikasi.”

Dalam beberapa hari, ia membatalkan keputusannya dan bergabung dengan hampir semua karyawan OpenAI dalam menandatangani surat yang menuntut Altman kembali dan pengunduran diri dewan direksi. Namun, kejadian tersebut mengurangi perannya di OpenAI. Ia dikeluarkan dari dewan direksi dan meninggalkan perusahaan pada bulan Mei.

Setelah Sutskever pergi, perusahaan membubarkan tim “Superalignment” miliknya, yang bekerja untuk memastikan AI tetap selaras dengan nilai-nilai kemanusiaan guna mempersiapkan hari ketika AI melampaui kecerdasan manusia.

Tidak seperti struktur perusahaan OpenAI yang tidak ortodoks, yang diterapkan karena alasan keamanan AI tetapi memungkinkan Altman digulingkan, SSI memiliki struktur nirlaba yang teratur.

SSI saat ini sangat fokus pada perekrutan orang-orang yang cocok dengan budayanya.

Gross mengatakan mereka menghabiskan waktu berjam-jam untuk memeriksa apakah kandidat memiliki “karakter baik”, dan mencari orang-orang dengan kemampuan luar biasa daripada terlalu menekankan kredensial dan pengalaman di bidang tersebut.

“Satu hal yang membuat kami gembira adalah ketika Anda menemukan orang-orang yang tertarik pada karya tersebut, yang tidak tertarik pada pemandangannya, pada kehebohannya,” tambahnya.

SSI mengatakan pihaknya berencana untuk bermitra dengan penyedia cloud dan perusahaan chip untuk mendanai kebutuhan daya komputasinya, tetapi belum memutuskan perusahaan mana yang akan diajak bekerja sama. Perusahaan rintisan AI sering bekerja sama dengan perusahaan seperti Microsoft (NASDAQ:) dan Nvidia (NASDAQ:) untuk memenuhi kebutuhan infrastruktur mereka.

Sutskever merupakan salah satu pendukung awal penskalaan, sebuah hipotesis bahwa model AI akan meningkatkan kinerja jika diberikan daya komputasi yang sangat besar. Ide dan pelaksanaannya memicu gelombang investasi AI dalam chip, pusat data, dan energi, yang menjadi dasar bagi kemajuan AI generatif seperti ChatGPT.

Sutskever mengatakan ia akan mendekati penskalaan dengan cara yang berbeda dari mantan majikannya, tanpa membagikan rinciannya.

“Semua orang hanya mengatakan hipotesis penskalaan. Semua orang mengabaikan pertanyaan, apa yang sedang kita skalakan?” katanya.

“Beberapa orang dapat bekerja dalam jam yang sangat panjang dan mereka akan lebih cepat mengikuti jalan yang sama. Itu bukan gaya kami. Namun, jika Anda melakukan sesuatu yang berbeda, maka Anda akan dapat melakukan sesuatu yang istimewa.”