South Jakarta – Keberadaan AI (Artificial Intelengence) di berbagai bidang kehidupan telah menjadi kebutuhan untuk membantu kegiatan manusia. Hal tersebut juga tidak terkecuali di bidang musik. Saat perusahaan musik berbicara tentang AI, biasanya ada dua tema besar:yang menjadi perhatian yaitu manfaat AI bagi bisnis mereka yang meliputi pembuatan musik yang lebih efisien, pengalaman pengguna yang lebih baik, pengumpulan dan analisis data yang lebih baik, dan sebagainya, dan biaya yang terkait dengan penyalahgunaan AI – pelanggaran hak cipta melalui deepfake yang tidak sah, pelatihan AI tanpa izin mengenai karya berhak cipta dan masih banyak lagi. Namun kenyataannya AI adalah teknologi yang baru dan canggih, dan seperti teknologi-teknologi baru dan canggih lainnya sebelumnya, hampir tidak mungkin untuk memprediksi dampak jangka panjang yang mungkin ditimbulkannya.
Tencent Music Entertainment (TME), operator layanan streaming musik terbesar di Tiongkok, telah mengambil langkah untuk melakukan hal tersebut. Dalam laporan tahunannya untuk tahun 2023, yang diajukan ke Komisi Sekuritas dan Bursa AS awal bulan ini, TME memaparkan sejumlah risiko yang beberapa di antaranya hal yang masih samar tentang hal yang dapat dilihat dari penggunaan AI. Dan mereka menggunakan AI: di antara layanan streaming, TME mungkin merupakan yang paling canggih di dunia dalam hal pengembangan dan penerapan alat AI. Untuk pendengar, mereka telah meluncurkan “pendamping” AI yang dapat “mendengarkan” musik bersama Anda, menyimulasikan pesta mendengarkan. Aplikasi karaoke TME WeSing, dan fungsi karaoke di aplikasi streaming Kugou, kini memiliki fungsi “AI Singi” terintegrasi, yang memungkinkan pengguna melakukan “duet” dengan penyanyi virtual. AI juga telah diintegrasikan ke dalam fungsi pencarian dan penemuan musik TME.
Sementara bagi para kreator musik, tahun lalu TME meluncurkan serangkaian alat kreasi musik AI di Venus, platform produksi dan promosi musiknya, yang tersedia bagi hampir setengah juta pelanggan Tencent Musician Platform. Di antara alat-alat tersebut adalah kemampuan untuk memisahkan instrumen musik yang berbeda pada trek yang direkam, kemampuan untuk menghasilkan lembaran musik secara otomatis, asisten penulisan lirik, dan asisten komposisi. TME juga telah mengembangkan PDM, singkatan dari “predictive model,” yang menurut perusahaan kini dapat memprediksi “lagu hit berikutnya,” berdasarkan analisis musik dan lirik serta perubahan tren musik di seluruh dunia. Jadi masuk akal jika TME telah menghabiskan banyak waktu untuk memikirkan risiko yang ada dalam mempertaruhkan sebagian besar bisnisnya pada pengembangan AI.
Berikut adalah aspek inti AI di mana TME melihat risiko:
1) ALGORITMA CACAT
“Algoritme AI mungkin memiliki kelemahan, dan data yang digunakan mungkin tidak lengkap atau bias,” kata TME dalam bagian laporannya yang berjudul Risiko Terkait Bisnis dan Industri Kita. Hal ini memang bisa menjadi masalah. Sejak teknologi AI “menjadi mainstream” sekitar satu setengah tahun yang lalu, banyak kasus “halusinasi AI” telah dilaporkan – yang berarti AI hanya mengarang informasi palsu dan menyebarkannya sebagai informasi faktual. Dalam satu contoh yang terkenal, seorang pengacara yang memperdebatkan kasus cedera pribadi di pengadilan New York mengakui bahwa ia mengutip tidak adanya preseden hukum dalam argumennya – akibat dari ChatGPT yang “berhalusinasi” terhadap kasus-kasus tersebut. Terlebih lagi, ketika ditanya tentang hasil tersebut, ChatGPT bersikeras bahwa kasus palsu tersebut adalah nyata.
“Halusinasi” seperti itu juga bisa menjadi masalah bagi layanan streaming musik. PDM TME dapat menghasilkan prediksi yang salah tentang lagu apa yang kemungkinan besar akan menjadi hits, atau dapat menyesatkan analis tentang kebiasaan mendengarkan. Aplikasi AI lainnya dapat memberikan hasil yang tidak diinginkan bagi pendengar dan pembuat musik. Tidak perlu seorang jenius untuk melihat bagaimana hal-hal seperti itu dapat merusak operasional bisnis layanan streaming. TME juga benar dalam menunjukkan kemungkinan bias dalam model AI. Algoritme AI mencerminkan bias, disadari atau tidak, dari pengembangnya telah didokumentasikan dengan baik pada saat ini. IBM telah menerbitkan ikhtisar mengenai pengaruh bias terhadap kegunaan teknologi AI. Jika layanan streaming menggunakan model AI yang bias, hal ini dapat mengakibatkan perusahaan kehilangan tren budaya atau mengabaikan seluruh kelompok demografi – sehingga merugikan keuntungannya.
2) ‘PRAKTIK KONTROVERSIAL’
“Praktik data yang tidak pantas atau kontroversial, oleh kami atau pihak lain, dapat membatasi penerimaan produk dan konten kami yang dilengkapi dengan AI,” TME menyatakan dalam laporan tahunannya. “Aplikasi AI tertentu dapat memicu masalah etika. Jika penawaran berbasis AI kami menjadi kontroversial karena dampaknya terhadap hak asasi manusia, privasi, pekerjaan, atau masalah sosial lainnya, kami berisiko mengalami kerusakan reputasi atau dampak hukum.”
Sulit untuk mengatakan secara pasti apa yang ada dalam pikiran TME ketika menyampaikan peringatan ini, namun kita tentu dapat membayangkan bagaimana sejumlah aplikasi AI pada perusahaan streaming musik dapat mengalami “masalah etika.” Jika algoritme AI mampu menganalisis kebiasaan mendengarkan pengguna secara mendalam, algoritme tersebut berpotensi menciptakan “model” dari pengguna tertentu yang secara akurat memprediksi apa yang ingin didengar pengguna sehingga hal tersebut mungkin terasa seperti pelanggaran privasi – seolah-olah ada yang mengetahuinya. hal-hal tentangmu yang seharusnya tidak mereka lakukan.
Dampak potensial terhadap lapangan kerja sudah jelas terlihat. Jika alat AI generatif mengurangi permintaan akan musisi sesi, sound engineer, atau bahkan produser, maka hilangnya lapangan kerja di industri musik bisa bertambah. Dan jika para pengangguran menyalahkan alat seperti Venus dari TME, hal ini jelas merupakan risiko terhadap citra dan reputasi perusahaan.
3) MASALAH HAK CIPTA
Hak cipta adalah masalah besar terkait AI di industri musik. Mulai dari tuntutan hukum atas reproduksi tidak sah atas materi berhak cipta yang dilakukan oleh chatbot AI, hingga pemberitahuan penghapusan deepfake artis terkenal yang dibuat oleh AI, risiko terhadap pemegang hak cipta – dan perusahaan yang mungkin bertabrakan dengan mereka – kini menjadi fokus perhatian. “Ada ketidakpastian seputar kepemilikan dan perlindungan kekayaan intelektual produk AIGC [konten yang dihasilkan AI]. Penggunaan alat AIGC juga dapat menyebabkan potensi pelanggaran hak cipta dan tantangan hukum lainnya,” catat TME dalam laporan tahunannya. “Jika kami tidak dapat memperoleh izin atau lisensi yang diperlukan untuk menggunakan alat AI – baik karena kami tidak dapat mengidentifikasi pemegang haknya atau karena alasan lain – kami mungkin melanggar hak orang lain yang dapat mengakibatkan tuntutan moneter, denda, penalti, atau lebih sedikit konten untuk pengguna kami.”
Referensi TME terhadap “ketidakpastian seputar kepemilikan dan perlindungan kekayaan intelektual AIGC” kemungkinan besar mengacu pada perdebatan yang sedang berlangsung mengenai apakah konten yang dihasilkan AI dapat dilindungi hak cipta atau tidak. Di AS, keputusan pengadilan pada tahun 2023 menetapkan bahwa karya yang sepenuhnya dibuat oleh AI tidak dapat dilindungi hak cipta. Namun, hal ini masih menyisakan beberapa area abu-abu yang belum terselesaikan. Berapa banyak keterlibatan manusia yang diperlukan agar sebuah karya dapat dilindungi hak cipta? Jika sesuatu itu 50% dihasilkan oleh manusia dan 50% oleh AI, apakah benda tersebut dapat dilindungi hak cipta? Bagaimana jika 25% pekerjaan manusia dan 75% AI? Masih banyak yang harus ditentukan mengenai sejauh mana perlindungan hak cipta untuk konten yang dihasilkan AI. Hal yang menonjol dalam penilaian TME adalah tingkat ketidakpastian mengenai penggunaan AI; mungkinkah TME tidak mengetahui apakah alat AI tertentu telah menggunakan materi berhak cipta dalam pelatihannya, atau dapat digunakan untuk melanggar hak cipta? Hal ini berpotensi terjadi, dan jika demikian, hal ini mungkin disebabkan tidak hanya oleh kompleksitas algoritme AI, dan banyaknya data yang biasanya digunakan untuk melatihnya.
4) KETIDAKPASTIAN HUKUM DAN PERATURAN
“Kerangka peraturan dan hukum mengenai AI generatif berkembang pesat,” menurut laporan TME, “dan mungkin tidak sepenuhnya mencakup setiap aspek penelitian, pengembangan, dan penggunaannya.” Bicara tentang pernyataan yang meremehkan. Saat ini, kerangka hukum dan peraturan untuk AI baru saja dimulai – jika memang demikian – di sebagian besar negara.
Di AS, sejauh ini, hanya ada sedikit peraturan perundang-undangan yang dibuat, dan sebagian besar tugas untuk menentukan peraturan seputar hak cipta diserahkan kepada pengadilan. Para hakim di seluruh negeri saat ini sedang mendengarkan argumen mengenai apakah penggunaan tanpa izin atas materi berhak cipta harus diberikan pengecualian “penggunaan wajar” terhadap undang-undang hak cipta; apakah ringkasan buku yang dibuat oleh AI harus dianggap sebagai pelanggaran hak cipta, dan masalah terkait lainnya.
Di Uni Eropa, Undang-Undang AI yang baru-baru ini disahkan mengharuskan pengembang model “AI tujuan umum” untuk melacak dan mengungkapkan konten apa yang digunakan dalam pelatihan. Pernyataan tersebut lebih lanjut menyatakan bahwa “setiap penggunaan konten yang dilindungi hak cipta memerlukan izin dari [pemegang hak] yang bersangkutan kecuali berlaku pengecualian dan batasan hak cipta yang relevan.”
Namun tampaknya tidak ada seorang pun yang sepenuhnya yakin apa artinya hal ini dalam kasus-kasus tertentu. Seperti yang ditunjukkan oleh para ahli hukum, tidak sepenuhnya jelas apa yang dimaksud dengan “AI tujuan umum” dan apa yang bukan. Apakah alat penghasil musik berbasis AI diperhitungkan? Ada juga batasan untuk “pengecualian dan batasan hak cipta yang relevan.” Hak cipta UE memiliki pengecualian untuk “tindakan reproduksi sementara yang merupakan bagian penting dari proses teknologi.” Apakah pengembangan model AI termasuk dalam pengecualian tersebut?
Menariknya, yurisdiksi hukum yang paling relevan dengan Tencent Music Entertainment – Tiongkok – mungkin memiliki peraturan paling jelas dan komprehensif di dunia seputar AI, setidaknya untuk saat ini. Mulai akhir tahun 2022, regulator Tiongkok mengeluarkan peraturan yang memandu bagaimana AI dapat dikembangkan dan diterapkan, termasuk persyaratan bagi pengembang AI untuk menyerahkan penilaian keamanan teknologi mereka kepada pemerintah. Penyedia layanan yang didukung AI diharuskan untuk memastikan bahwa pengguna “memahami secara ilmiah dan menggunakan secara rasional” konten yang dihasilkan oleh AI dan “tidak menggunakan konten yang dihasilkan untuk merusak citra, reputasi, dan hak serta kepentingan sah lainnya dari orang lain, dan tidak untuk terlibat dalam hype komersial atau pemasaran yang tidak pantas.”
“Ketidakpatuhan terhadap Tindakan AIGC dapat menyebabkan penyedia layanan AI generatif dikenakan sanksi, termasuk peringatan, kecaman publik, perintah perbaikan, dan penangguhan penyediaan layanan terkait,” kata TME dalam laporannya. “Namun, karena undang-undang dan peraturan ini masih relatif baru dan masih terdapat ketidakpastian yang signifikan sehubungan dengan penafsiran dan penerapannya, kami tidak dapat menjamin apakah kami akan mampu mematuhi persyaratan undang-undang dan peraturan tersebut pada waktu yang tepat atau tidak sama sekali. .”
Ini adalah pengakuan yang cukup mencolok dari salah satu pengembang AI paling produktif di Tiongkok dalam industri hiburan.
“Ketidakpastian mengenai pengembangan dan penerapan teknologi AI menghadirkan potensi risiko. Masih ada kemungkinan bahwa teknologi AI tidak berkembang seperti yang diharapkan atau memberikan manfaat yang diharapkan, yang dapat membatasi penerimaan dan popularitas penawaran berbasis AI kami.” TME tampaknya sepenuhnya menyadari bahwa teknologi baru tidak selalu berjalan sesuai dengan apa yang dibayangkan, dan hal ini memberikan ruang bagi kemungkinan bahwa penerapan teknologi baru ini secara antusias dan agresif mungkin tidak memberikan hasil yang diharapkan dalam jangka panjang. berlari.
Mengingat TME adalah pemimpin dalam penerapan teknologi AI di kalangan streamer musik, hal ini seharusnya membuat kita berhenti sejenak. Pada saat perusahaan-perusahaan baik di dalam maupun di luar industri musik saling berlomba untuk menjadi yang pertama meluncurkan inovasi berbasis AI, kami dapat menyarankan tiga kata nasihat: lanjutkan dengan hati-hati.
