‘Perampasan lahan’ baru bagi perusahaan AI, dari Meta hingga OpenAI, adalah kontrak militer

Perusahaan-perusahaan terkemuka yang mengembangkan teknologi AI generatif telah meningkatkan, memperdalam, atau mulai menjalin hubungan dengan militer dalam beberapa bulan terakhir, dan dalam beberapa kasus, mereka bahkan merevisi atau membuat pengecualian terhadap kebijakan internal untuk menghilangkan hambatan dan pembatasan pada pekerjaan pertahanan.

Beberapa lembaga di Departemen Pertahanan, mulai dari Angkatan Udara hingga berbagai kelompok Intelijen, secara aktif menguji kasus penggunaan model dan alat AI dari Meta, Google, OpenAI, Anthropic, dan Mistral, bersama dengan teknologi dari perusahaan rintisan seperti Gladstone AI dan ScaleAI, beberapa orang-orang yang memiliki pengetahuan tentang pengujian tersebut mengatakan Harta benda.

Ini adalah peristiwa yang luar biasa bagi perusahaan-perusahaan internet, yang sampai saat ini memperlakukan pekerjaan pertahanan seolah-olah merupakan hal yang tabu, atau bahkan tabu. bertele-tele. Namun dengan biaya untuk mengembangkan dan menjalankan layanan AI generatif yang sudah berjumlah ratusan miliar dolar, dan tidak menunjukkan tanda-tanda melambat, perusahaan AI merasakan tekanan untuk menunjukkan keuntungan atas investasi besar-besaran tersebut. Departemen Pertahanan, dengan anggaran yang pada dasarnya tidak terbatas dan ketertarikan jangka panjang terhadap teknologi mutakhir, tiba-tiba tidak terlihat terlalu buruk.

Meskipun mendapatkan kontrak dengan Pertahanan bisa jadi rumit, dengan adanya sertifikasi berlapis yang harus diterima dan standar kepatuhan yang ketat yang harus diikuti, “imbalannya sangat besar” dan uangnya bisa diperoleh selama bertahun-tahun, Erica Brescia, mitra pengelola di Redpoint Ventures yang berfokus pada Investasi AI, kata

“Kontrak DoD memberikan nilai kontrak tahunan yang besar, atau ACV, dan menciptakan peluang jangka panjang untuk pertumbuhan dan pertahanan pasar,” kata Brescia.

Brescia menambahkan bahwa mengejar pekerjaan di bidang Pertahanan akhir-akhir ini menjadi lebih dapat diterima secara sosial di kalangan teknologi. Para pemimpin perusahaan tidak hanya mempertimbangkan ratusan juta dolar kontrak yang diperoleh oleh startup yang berfokus pada pertahanan seperti Palantir dan Anduril, namun “perubahan lanskap politik” telah membuat “mengejar pertahanan sebagai segmen pasar utama menjadi pilihan yang semakin menarik bagi mereka.” perusahaan bersiap untuk menavigasi siklus penjualan yang lebih panjang dan menangani penerapan yang kompleks.”

Pelibatan kerja militer mungkin memang cocok dengan momen politik, dengan pemerintahan Trump yang ramah bisnis akan mulai menjabat pada bulan Januari, dan sekelompok orang dalam Silicon Valley yang berpandangan jauh ke depan, dipimpin oleh “First Buddy” Elon Musk, akan menjadi bagian dari presiden terpilih. lingkaran. Mandat Musk dalam peran resminya sebagai salah satu kepala Departemen Efisiensi Pemerintahan yang baru adalah membatasi pengeluaran secara drastis. Namun hanya sedikit yang memperkirakan anggaran Pentagon akan mengalami pengurangan yang serius, terutama terkait AI pada saat Amerika Serikat dan Tiongkok sedang bersaing memperebutkan supremasi AI.

Untuk saat ini, sebagian besar pekerjaan militer dengan AI generatif tampaknya merupakan proyek dan pengujian skala kecil, namun potensi teknologi AI generatif untuk menjadi aspek fundamental komputasi di masa depan berarti hubungan antara Silicon Valley dan Pentagon bisa sangat besar. .

Penggunaan AI untuk pertahanan tidak selalu berarti peperangan dengan drone atau meledakkan sesuatu. Banyak pekerjaan khusus AI di Departemen Pertahanan adalah aktivitas biasa yang dengan senang hati akan diserahkan oleh kantor mana pun kepada teknologi yang mumpuni. Pelabelan, pengumpulan, dan penyortiran data adalah penggunaan AI yang umum di dalam departemen, seperti halnya penggunaan chatbot Chat-GPT dan Claude yang dapat diakses sebagian besar orang secara online, namun memerlukan keamanan ekstra saat digunakan oleh Departemen Pertahanan. Model bahasa yang besar juga terbukti berguna untuk menganalisis dan mencari informasi rahasia, membantu pekerjaan keamanan siber pemerintah, dan memberikan visi komputer dan otonomi yang lebih baik untuk hal-hal seperti peralatan robot, drone, dan tank.

Beberapa perusahaan teknologi memang berusaha menghindari keterlibatan mereka dalam proyek-proyek Departemen Pertahanan yang dapat dimanfaatkan dalam “rantai pembunuhan,” sebuah istilah militer yang mengacu pada struktur serangan terhadap musuh, kata seorang mantan pejabat di Departemen Pertahanan kepada Fortune mengenai perusahaan-perusahaan yang menang. kontrak pengadaan. Namun kekhawatiran semacam ini terkadang hilang ketika jutaan, atau miliaran dolar tersedia. “Setelah Anda masuk, Anda ingin berkembang,” tambah orang itu.

Seperangkat aturan yang berubahS

Beberapa perusahaan teknologi, seperti Palantir dan Anduril selama bertahun-tahun telah menjadikan Pertahanan menggunakan dan mengontrak tulang punggung seluruh bisnis mereka.

Namun, di perusahaan-perusahaan internet yang sudah mapan di Silicon Valley dan beberapa perusahaan rintisan AI yang lebih muda, pekerjaan militer dihindari karena perusahaan-perusahaan tersebut berupaya merekrut dan mempertahankan talenta-talenta teknik yang berhaluan kiri. Ketika Google mengakuisisi DeepMind pada tahun 2014, Google dilaporkan berkomitmen untuk tidak pernah menggunakan teknologi startup tersebut untuk tujuan militer. Dan pada tahun 2018, CEO Alphabet Sundar Pichai menghadapi reaksi internal atas partisipasi Google dalam Project Maven, upaya perang drone Pentagon. Meskipun Google bersikeras bahwa teknologinya digunakan hanya untuk “tujuan non-ofensif” seperti menganalisis rekaman video drone, protes karyawan cukup keras sehingga Pichai membatalkan liburan untuk meyakinkan staf dan akhirnya berjanji bahwa Google tidak akan mengembangkan AI untuk senjata.

“Prinsip-prinsip AI” Google sekarang menetapkan bahwa Google “tidak akan menggunakan… senjata atau teknologi lain yang tujuan atau penerapan utamanya adalah untuk menyebabkan atau secara langsung memfasilitasi cederanya orang,” atau untuk “pengawasan yang melanggar norma-norma yang diterima secara internasional.” Namun kebijakan tersebut menyisakan banyak ruang gerak dan perusahaan tersebut secara eksplisit mengatakan bahwa mereka tidak akan sepenuhnya bekerja sama dengan militer.

Kisah serupa terjadi pada pemain AI besar lainnya. Meta awalnya melarang model Llama digunakan dalam pekerjaan militer, seperti halnya OpenAI, sementara Anthropic awalnya membuat model Claude-nya agar “tidak berbahaya.” Sekarang, ketiganya telah mengumumkan bahwa pekerjaan seperti itu dengan model mereka baik-baik saja, dan mereka secara aktif melakukan penggunaan tersebut. Sam Altman, yang ikut mendirikan OpenAI dengan prinsip mengembangkan AI untuk “memberi manfaat bagi umat manusia secara keseluruhan,” dan pernah mengatakan bahwa ada hal-hal yang “tidak akan pernah dia lakukan dengan Departemen Pertahanan,” telah menghapus komitmen apa pun terhadap pembatasan tersebut. dari kebijakan penggunaannya.

Salah satu pemodal ventura yang berfokus pada investasi di perusahaan-perusahaan AI menunjuk pada esai “Dinamisme Amerika” yang ditulis oleh perusahaan VC Andreessen Horowitz dua tahun lalu sebagai momen ketika penghindaran kontrak pertahanan mulai bergeser. Esai tersebut secara eksplisit mengatakan bahwa perusahaan teknologi yang bekerja di bidang pertahanan bekerja untuk mendukung kepentingan nasional Amerika.

“Para eksekutif mulai berpikir, ‘Oh, oke, membela Amerika, bekerja dengan militer, sebenarnya bagus,” kata VC.

PHK yang meluas pascapandemi di perusahaan-perusahaan teknologi juga berdampak buruk pada protes karyawan, sehingga memberikan lebih banyak kebebasan bagi pengusaha teknologi untuk menjalankan bisnis militer.

Departemen Pertahanan telah membayar hampir $1 miliar dalam bentuk kontrak resmi kepada perusahaan AI dalam dua tahun terakhir, menurut a Harta benda analisa. Meskipun rincian kontrak tersebut tidak jelas, kontrak tersebut telah diberikan kepada perusahaan seperti Morsecorp, yang berfokus pada teknologi kendaraan otonom, dan anak perusahaan ASGN, sebuah perusahaan manajemen dan konsultasi, untuk mengembangkan prototipe AI baru.

Tidak semua kontrak tersebut dipublikasikan. Namun setiap kontrak pengadaan pemerintah yang diberikan kepada perusahaan AI besar kemungkinan akan menghasilkan pendapatan puluhan juta hingga ratusan juta, bahkan miliaran dolar bagi perusahaan-perusahaan tersebut – dan bagi para pendukung terbesar mereka.

Investor terbesar OpenAI adalah Microsoft, yang baru-baru ini mengatakan bahwa layanan cloud Azure miliknya telah disetujui oleh lembaga Departemen Pertahanan untuk menggunakan model AI OpenAI untuk mendapatkan informasi dengan tingkat izin keamanan yang lebih rendah – sesuatu yang memerlukan investasi bertahun-tahun dalam infrastruktur khusus untuk mencapainya. Demikian pula, pendukung terbesar Anthropic adalah Amazon. Amazon Web Services mungkin merupakan satu-satunya penyedia cloud terbesar bagi Departemen Pertahanan dan memiliki kontrak pemerintah senilai puluhan miliar dolar. Bagi kedua perusahaan, kemampuan untuk menambahkan layanan dan alat AI baru ke dalam penawaran Departemen Pertahanan terbukti sangat berharga. Hal yang sama berlaku untuk perusahaan seperti Google, yang juga telah mendapatkan kontrak pemerintah yang berharga, dan model Gemini AI-nya.

“Mereka pada dasarnya membuat pesawat sambil menerbangkannya, jadi ini merupakan perampasan lahan secara besar-besaran,” kata salah satu eksekutif AI kepada Fortune, mengacu pada semakin banyak perusahaan teknologi yang tiba-tiba ingin alat dan model AI mereka berada di tangan Departemen Pertahanan.

Teknologi “penting” untuk Departemen Pertahanan

Departemen Pertahanan mendefinisikan AI sebagai salah satu dari 14 “bidang teknologi kritis” karena AI mempunyai “janji besar” dan “penting untuk mendominasi konflik di masa depan.”

Sekitar setahun yang lalu, Departemen Pertahanan secara resmi mendirikan Office of Strategic Capital, sebuah program kredit federal baru yang bekerja sama dengan Small Business Administration, untuk memastikan bahwa teknologi penting seperti AI menerima pendanaan melalui pinjaman langsung. Untuk tahun fiskal 2024, OSC menyediakan $984 juta yang dimaksudkan untuk dibagikan kepada 10 perusahaan yang berfokus pada hal-hal seperti robotika otonom dan fabrikasi mikroelektronika, yang biasanya mencakup fabrikasi chip AI. Departemen Pertahanan kembali menginvestasikan sekitar $700 juta dalam fabrikasi chip dan pembangunan manufaktur semikonduktor dalam negeri, yang sangat penting untuk pembuatan chip AI.

Meskipun investasi bernilai miliaran dolar dan tidak ada tanda-tanda perlambatan di bidang Pertahanan, eksekutif AI mengakui bahwa sebagian besar produk AI saat ini “belum terlalu berguna,” baik bagi Pertahanan maupun masyarakat luas. Namun penerapannya dalam skala besar di lingkungan pemerintahan atau pertahanan dapat menjadikannya lebih berguna dan lebih cepat. “Militer juga secara efektif menciptakan Internet.” ARPANET, landasan teknologi utama Internet modern, dibangun di dalam Departemen Pertahanan, seperti halnya teknologi umum seperti sistem radar dan GPS.

Meskipun departemen seperti Pertahanan menginginkan produk-produk yang bermanfaat, departemen tersebut juga mengalami peningkatan anggaran dari tahun ke tahun, mencapai sedikit di bawah $1 triliun pada tahun 2024. Sekitar setengah dari anggaran tersebut diberikan kepada perusahaan-perusahaan yang memiliki kontrak dengan departemen tersebut.

“Sejujurnya, ya, mereka sangat suka menghambur-hamburkan uang,” kata eksekutif tersebut.

Pelaporan tambahan oleh Jeremy Kahn dan Sharon Goldman.

Apakah Anda seorang karyawan perusahaan teknologi atau seseorang yang memiliki wawasan atau tip untuk dibagikan? Hubungi Kali Hays dengan aman melalui Sinyal di +1-949-280-0267 atau di kali.hays@fortune.com.