JAKARTA - Google telah meminta maaf setelah model bahasa besar (LLM) barunya, Gemini, menghasilkan teks dan gambar yang mempromosikan ideologi NAZI

BACA JUGA - Polandia: Perlakukan Rusia seperti Nazi Jerman

Dalam sebuah posting blog, Google mengatakan bahwa Gemini, yang dilatih pada kumpulan data teks dan kode yang sangat besar, mampu menghasilkan teks yang "konsisten secara faktual dan koheren". Namun, perusahaan mengatakan bahwa model tersebut juga dapat menghasilkan teks yang "berbahaya dan menyinggung".

Google telah meminta maaf atas apa yang digambarkannya sebagai “ketidakakuratan dalam beberapa penggambaran pembuatan gambar historis” dengan Gemini, dan mengatakan bahwa upayanya untuk menciptakan “berbagai macam” hasil tidak tepat sasaran.

Pernyataan tersebut menyusul kritik yang menggambarkan sosok kulit putih tertentu (seperti para Founding Fathers AS) seperti tentara Jerman era NAZI,

“Kami menyadari bahwa Gemini menawarkan ketidakakuratan dalam beberapa penggambaran pembuatan gambar historis,” kata pernyataan Google, yang diposting siang ini di X.

Google mengatakan bahwa telah mengetahui masalah ini setelah Gemini menghasilkan teks yang mempromosikan ideologi NAZI.

Perusahaan mengatakan bahwa telah mengambil langkah-langkah untuk mencegah model menghasilkan teks yang berbahaya, termasuk menghapus konten berbahaya dari kumpulan data pelatihan dan menyempurnakan algoritme model.

Google mengatakan bahwa berkomitmen untuk mengembangkan AI yang bertanggung jawab dan etis. Perusahaan mengatakan bahwa akan terus bekerja untuk meningkatkan Gemini dan model AI lainnya untuk memastikan bahwa mereka tidak menghasilkan teks yang berbahaya atau menyinggung.

Google meminta maaf karena Gemini menghasilkan teks yang mempromosikan ideologi Nazi.

Perusahaan mengatakan bahwa telah mengambil langkah-langkah untuk mencegah model menghasilkan teks yang berbahaya.

Google mengatakan bahwa berkomitmen untuk mengembangkan AI yang bertanggung jawab dan etis.

Permintaan maaf Google datang setelah serangkaian kritik terhadap perusahaan atas pengembangan LLM.

Para kritikus mengatakan bahwa model-model ini berisiko menghasilkan teks yang berbahaya dan menyinggung, dan bahwa Google tidak berbuat cukup untuk mengatasi risiko ini.

Permintaan maaf Google adalah langkah positif, tetapi masih harus dilihat apakah perusahaan dapat mengambil langkah-langkah yang cukup untuk memastikan bahwa LLM-nya tidak menghasilkan teks yang berbahaya.