Teknologi kecerdasan buatan (AI) kini berkembang dengan sangat pantas sehingga ada sistem yang mampu membuat keputusan sendiri tanpa kawalan manusia sepenuhnya. Kepintaran yang semakin tinggi ini menimbulkan kebimbangan kerana manusia mungkin tidak lagi mampu memahami atau mengawal sepenuhnya cara AI bertindak dalam situasi tertentu.
Dalam keadaan ini, jika berlaku kesilapan algoritma atau keputusan AI yang tidak selari dengan nilai dan keselamatan manusia, kesannya boleh menjadi sangat serius. Contohnya dalam sistem kesihatan, kenderaan autonomi atau sistem automatik kritikal, satu keputusan salah sahaja boleh membawa kepada kehilangan nyawa.
Lebih membimbangkan, penggunaan AI dalam sistem berisiko tinggi seperti ketenteraan atau infrastruktur negara boleh mencetuskan tragedi besar jika tahap autonomi (kebebasan AI buat keputusan sendiri) terlalu tinggi tanpa kawalan manusia. Sebab itu, pembangunan AI perlu sentiasa dikawal dengan ketat agar kepintaran mesin tidak bertukar menjadi ancaman kepada manusia sendiri.
#AI #teknologi #digital #ancaman
Comments
Post a Comment