Selasa, 09 Juni 2020 17:15 WITA

IBM Hentikan Teknologi Pengenalan Wajah Buntut Kematian George Flyod

Editor: Nur Hidayat Said
IBM Hentikan Teknologi Pengenalan Wajah Buntut Kematian George Flyod
Ilustrasi. (Foto: Wallpaperflare)

RAKYATKU.COM - Produsen komputer IBM memutuskan tidak lagi menawarkan teknologi pengenalan wajah termasuk perangkat lunaknya. CEO IBM, Arvind Krishna, menyampaikan hal itu dalam sebuah surat yang ditujukan kepada Kongres Amerika Serikat tertanggal 8 Juni 2020.

Dalam surat yang ditujukan untuk lima senator AS itu, Arvind Krishna mengatakan keputusan itu didorong keinginan melawan rasisme.

Surat itu dibuka dengan memutar ingatan ke September 1953 ketika Presiden IBM Thomas J. Watson Junior mengatakan kepada karyawannya: "Setiap warga negara ini memiliki hak yang sama untuk hidup dan bekerja di Amerika. Kebijakan perusahaan adalah untuk mempekerjakan orang yang memiliki kepribadian, bakat, dan latar belakang yang diperlukan untuk mengisi pekerjaan tertentu, terlepas dari ras, warna kulit, atau kepercayaan."

Watson mengucapkan hal itu satu dekade sebelum Amerika memberlakukan Undang-undang Hak-hak Sipil pada 1964 yang mengakui setiap orang berhak mendapat perlakuan dan fasilitas umum yang sama tanpa memandang warna kulitnya. Saat Watson mengucapkan itu, sejumlah negara bagian di Amerika memberlakukan 'Hukum Jim Crow' yang memisahkan fasilitas umum untuk orang kulit putih dengan kulit hitam.

"Watson menolak memberlakukan Hukum Jim Crow di IBM. Namun, hampir tujuh dekade kemudian, kematian George Floyd yang mengerikan dan tragis, Ahmaud Arbery, Breonna Taylor, dan masih banyak lagi yang lain, mengingatkan kita bahwa perjuangan melawan rasisme sama mendesaknya seperti sebelumnya," tulis Arvind Krishna.

Arvind Krishna menyampaikan, IBM ingin bekerja sama dengan Kongres dalam mengejar keadilan rasial yang pada tahap awal berfokus pada tiga kebijakan utama: reformasi kepolisian, penggunaan teknologi yang bertanggung jawab, dan perluasan ketrampilan dan peluang pendidikan.

"IBM dengan tegas menentang dan tidak akan memaafkan penggunaan teknologi [pengenalan wajah] apa pun, termasuk teknologi pengenalan wajah yang ditawarkan oleh vendor lain, untuk pengawasan massal, profil rasial, pelanggaran hak asasi manusia dan kebebasan dasar, atau tujuan apa pun yang tidak konsisten dengan kami, nilai-nilai dan Prinsip-prinsip Kepercayaan dan Transparansi," kata Arvind Krishna dalam surat itu. 

"Kami percaya sekarang adalah saatnya untuk memulai dialog nasional tentang apakah dan bagaimana teknologi pengenalan wajah harus digunakan oleh lembaga penegak hukum domestik."

Penggunaan perangkat lunak pengenalan wajah telah meningkat pesat selama dekade terakhir berkat kemajuan dalam kecerdasan buatan. Pada saat yang sama, teknologi--karena sering disediakan oleh perusahaan swasta dengan sedikit peraturan atau pengawasan federal --telah terbukti mengalami bias terkait usia, ras, dan etnis, yang dapat membuat alat tidak dapat diandalkan untuk penegakan hukum dan keamanan serta berpotensi melanggar hak-hak sipil.

loading...

Dilansir The Verge, sebuah studi Institut Teknologi dan Standar Nasional Desember 2019 menemukan bukti empiris ketidakakuratan dan bias rasial dalam mayoritas algoritma pengenalan wajah yang dievaluasi. Teknologi itu juga mendapat kecaman karena perannya dalam pelanggaran privasi.

Studi itu tidak memasukkan teknologi dari Amazon, yang merupakan salah satu dari sedikit perusahaan teknologi besar yang menjual perangkat lunak pengenalan wajah kepada penegak hukum. Namun Rekognition, nama programnya, juga telah dikritik karena akurasinya. 

Pada 2018, Uni Kebebasan Sipil Amerika menemukan, Rekognition secara tidak benar mencocokkan 28 anggota Kongres dengan wajah-wajah yang diambil dari 25.000 foto publik.

IBM telah mencoba membantu mengatasi bias dalam pengenalan wajah dengan merilis kumpulan data publik pada 2018 yang dirancang untuk membantu mengurangi bias sebagai bagian dari data melatih model pengenalan wajah. 

Akan tetapi, IBM juga ditemukan berbagi set data dari hampir satu juta foto pada Januari 2019 yang diambil dari Flickr tanpa persetujuan dari subyek, meskipun foto tersebut dibagikan di bawah lisensi Creative Commons.

Saat itu, IBM mengatakan kepada The Verge bahwa kumpulan data wajah itu hanya akan diakses oleh peneliti yang diverifikasi dan hanya mencakup gambar yang tersedia untuk umum. Perusahaan juga mengatakan bahwa individu dapat memilih keluar dari kumpulan data.

"Kita perlu menciptakan jalur yang lebih terbuka dan adil bagi semua orang Amerika untuk memperoleh keterampilan dan pelatihan yang dapat dijual," kata Arvind Krishna.

Loading...
Loading...