Microsoft telah mengubahnya kebijakan untuk melarang departemen kepolisian AS menggunakan AI generatif melalui Layanan Azure OpenAI, layanan yang dikelola sepenuhnya dan berfokus pada perusahaan seputar teknologi OpenAI.
Bahasa yang ditambahkan pada hari Rabu ke dalam persyaratan layanan untuk Layanan Azure OpenAI melarang integrasi dengan Layanan Azure OpenAI digunakan “oleh atau untuk” departemen kepolisian di AS, termasuk integrasi dengan model analisis teks dan ucapan OpenAI.
Poin-poin baru yang terpisah mencakup “penegakan hukum apa pun secara global,” dan secara eksplisit melarang penggunaan “teknologi pengenalan wajah real-time” pada kamera ponsel, seperti kamera tubuh dan kamera dasbor, untuk mencoba mengidentifikasi seseorang dalam keadaan “tidak terkendali, di dalam ruangan”. -liar” lingkungan.
Perubahan persyaratan ini terjadi seminggu setelah Axon, pembuat produk teknologi dan senjata untuk militer dan penegakan hukum, mengumumkan a produk baru yang memanfaatkan model teks generatif GPT-4 OpenAI untuk merangkum audio dari kamera tubuh. Kritikus dengan cepat menunjukkan potensi kendala, seperti halusinasi (bahkan model AI generatif terbaik saat ini menemukan fakta) dan bias rasial yang muncul dari data pelatihan (yang sangat memprihatinkan mengingat orang kulit berwarna adalah orang kulit berwarna). jauh lebih mungkin untuk dihentikan oleh polisi dibandingkan rekan-rekan mereka yang berkulit putih).
Tidak jelas apakah Axon menggunakan GPT-4 melalui Azure OpenAI Service, dan, jika demikian, apakah kebijakan yang diperbarui ini merupakan respons terhadap peluncuran produk Axon. OpenAI punya sebelumnya dibatasi penggunaan modelnya untuk pengenalan wajah melalui API-nya. Kami telah menghubungi Axon, Microsoft, dan OpenAI dan akan memperbarui postingan ini jika kami mendengarnya kembali.
Persyaratan baru ini memberikan ruang gerak bagi Microsoft.
Larangan penuh terhadap penggunaan Layanan Azure OpenAI hanya berlaku di AS, bukan internasional, polisi. Dan itu tidak mencakup pengenalan wajah yang dilakukan dengan tidak bergerak kamera masuk dikendalikan lingkungan, seperti back office (walaupun ketentuannya melarang penggunaan pengenalan wajah oleh polisi AS).
Hal ini sejalan dengan pendekatan terbaru Microsoft dan mitra dekat OpenAI terhadap penegakan hukum dan kontrak pertahanan terkait AI.
Pada bulan Januari, laporan Bloomberg terungkap bahwa OpenAI bekerja sama dengan Pentagon dalam sejumlah proyek termasuk kemampuan keamanan siber – sebuah penyimpangan dari larangan sebelumnya yang diterapkan oleh perusahaan rintisan tersebut dalam menyediakan AI-nya untuk militer. Di tempat lain, Microsoft telah mengusulkan penggunaan alat pembuat gambar OpenAI, DALL-E, untuk membantu Departemen Pertahanan (DoD) membangun perangkat lunak untuk melaksanakan operasi militer, per Pencegatan.
Layanan Azure OpenAI tersedia di produk Microsoft Azure Government pada bulan Februari, menambahkan fitur kepatuhan dan manajemen tambahan yang ditujukan untuk lembaga pemerintah termasuk penegakan hukum. Di sebuah postingan blogCandice Ling, SVP divisi Microsoft yang berfokus pada pemerintah, Microsoft Federal, berjanji bahwa Azure OpenAI Service akan “diserahkan untuk otorisasi tambahan” ke Departemen Pertahanan untuk beban kerja yang mendukung misi Departemen Pertahanan.
Microsoft dan OpenAI tidak segera membalas permintaan komentar.