Elon Muskගේ Grok AI එකට ඉන්දුනීසියාවෙන් වැටුණු රතු එළිය! (Deepfakes are Scary!)
අඩෝ, අර Elon Musk අයියාගේ අලුත්ම සුරතලා, ඒ කියන්නේ Grok AI එකට මේ දවස්වල හොඳටම කරදරයි වගේ. දැනටමත් ලෝකේ වටෙන්ම කේස් ඇදිලා එන වෙලාවේ, අපේ අසල්වැසි ඉන්දුනීසියාව ඊයේ පෙරේදා Grok එකට කෙලින්ම "Block" පාරක් දුන්නා. හේතුව? මේකේ තියෙන භයානක Non-Consensual Deepfake ප්රශ්නයක්!
මේ සීන් එක ඇත්තටම මොකක්ද? ඇයි මේ තරම් කට්ටිය කලබල වෙලා තියෙන්නේ? OneReddak අපි අද කතා කරමු මේ TechCrunch වෙබ් අඩවිය වාර්තා කරපු සිද්ධිය ගැන සරල සිංහලෙන්.
මොකක්ද මේ Grok AI "Undressing" කතාව?
සරලවම කිව්වොත්, Grok AI එකේ Image Generator එක පාවිච්චි කරලා සමහර පිස්සු යක්කු (Users) සාමාන්ය මිනිස්සුන්ගේ ෆොටෝ වල ඇඳුම් අයින් කරලා (Undressing), ඒවා නිරුවත් පින්තූර විදියට හදන්න පටන් අරන්. මේකට කියන්නේ Non-Consensual Intimate Imagery (NCII) කියලා. ඒ කියන්නේ අදාළ කෙනාගේ කැමැත්තක් නැතුව හදන ජරා වැඩක්.
මේ ගැන මීට කලින් The Guardian එකෙනුත් ලොකු රිපෝට් එකක් දාලා තිබුණා. එයාලා කියන විදියට මේකෙන් ගොඩක්ම පීඩාවට පත් වෙන්නේ කාන්තාවන් සහ පොඩි ළමයි. හිතන්න ඔයාගේ නිකන් ෆොටෝ එකක් අරගෙන කවුරුහරි AI එකකින් මේ වගේ දෙයක් කළොත්? ඒක කොච්චර බරපතලද කියලා අමුතුවෙන් කියන්න ඕන නෑනේ.
ඉන්දුනීසියාවේ Kominfo එකෙන් ගත්ත Action එක
ඉන්දුනීසියාව කියන්නේ අන්තර්ජාල නීති ටිකක් තද රටක්. ඉතින් එහේ තියෙන සන්නිවේදන අමාත්යාංශය (Kominfo) තීරණය කරලා තියෙනවා මේ ප්රශ්නය විසඳනකම් Grok AI එක එහේ Block කරන්න. ඉන්දුනීසියාවේ Antara News වාර්තා කරන විදියට, එරට ඇමතිවරියක් වන Meutya Hafid කියලා තියෙන්නේ මේක මිනිස් අයිතිවාසිකම් උල්ලංඝනය කිරීමක් කියලා.
- Reason: Deepfake Pornography ව්යාප්ත වීම වැළැක්වීම.
- Demand: X (Twitter) එකට මේ AI එකේ ආරක්ෂක විධිවිධාන (Safety Guardrails) හදන්න කියලා බල කරලා තියෙනවා.
- Status: දැනට තාවකාලික තහනමක් (Temporary Block) තමයි දාලා තියෙන්නේ.
Elon Musk සහ X එකේ ප්රතිචාරය (Paywall එකක්?)
දැන් මේකට Elon Musk ගේ X සමාගම මොකද කළේ? එයාලා සම්පූර්ණයෙන්ම මේක නවත්තනවට වඩා, Grok එකේ Image Generation පහසුකම "Paid Subscribers" ලට විතරක් සීමා කළා. ඒ කියන්නේ සල්ලි ගෙවන අයට විතරයි ෆොටෝ හදන්න පුළුවන්. මේ ගැන Washington Post සහ India Today වගේ වෙබ් අඩවි පෙන්වා දෙන්නේ, මේක "අපයෝජනය මුදල් කිරීමක්" (Monetizing abuse) විදියටයි. සල්ලි ගෙව්වම නරක වැඩ කරන්න පුළුවන් කියන එකද මේකේ තේරුම?
බ්රිතාන්ය රජය එහෙමත් මේ ගැන ලොකු අවධානයකින් ඉන්නේ. Sky News වාර්තා කරන විදියට එහේ Ofcom ආයතනයත් X එකට අනතුරු ඇඟවීමක් කරලා තියෙනවා.
AI Safety සහ අපේ ආරක්ෂාව
අපි Tech වලට කොච්චර ආස වුණත්, මේ වගේ දේවල් නිසා සම්පූර්ණ AI Industry එකටම නරක නමක් එනවා. StopNCII.org වගේ ආයතන මේ වගේ දේවල් වලට විරුද්ධව ලොකු සටනක් දෙනවා. ඔයාලත් AI පාවිච්චි කරනකොට පොඩ්ඩක් වගකීමෙන් වැඩ කරන්න ඕන. අනිත් රටවල් වල වගේම අපේ කලාපයේ රටවල් වන මැලේසියාව සහ ඉන්දියාවත් මේ ගැන ඇහැ ගහගෙන ඉන්නේ (The Hindu ලිපිය බලන්න).
මේ ගැන තව දුරටත් විස්තර දැනගන්න ඕන නම්, Marketech APAC එකේ තියෙන සම්පූර්ණ විස්තරය කියවන්න පුළුවන්. ඒ වගේම මේ වගේ නීතිමය පැත්ත ගැන දැනගන්න TechPolicy.Press එකත් බලන්න.
කොහොම වුණත්, Elon Musk ගේ "Free Speech Absolutist" ප්රතිපත්තියයි, රටවල් වල නීතියි අතර ලොකු හැප්පීමක් ඉස්සරහට බලාගන්න පුළුවන් වෙයි. ITV News එකෙන් කියනවා වගේ, තමන්ගේ ඔන්ලයින් ආරක්ෂාව ගැන සැලකිලිමත් වෙන එක තමයි මේ වෙලාවේ කරන්න තියෙන හොඳම දේ.
ඔයාලා මොකද හිතන්නේ? AI වලට මේ වගේ තද නීති දාන එක හොඳයිද? නැත්තම් Elon Musk කරන වැඩේ හරිද? පහලින් කමෙන්ට් එකක් දාගෙන යන්න!