รัฐบาลสหราชอาณาจักรไม่โปร่งใสเกี่ยวกับการใช้ AI รัฐมนตรีกระทรวงเทคโนโลยีกล่าว

สิ่งนี้เกิดขึ้นเมื่อหน่วยงานรัฐบาลในสหราชอาณาจักรใช้ AI อยู่แล้ว เพื่อแจ้งการตัดสินใจในทุกสิ่งตั้งแต่การจ่ายผลประโยชน์ไปจนถึงการบังคับใช้กฎหมายคนเข้าเมือง ตามรายงานของ The Guardian บันทึกบางรายการแสดงให้เห็นว่าหน่วยงานสาธารณะได้มอบ trac สำหรับบริการอัลกอริธึม AI

ตัวอย่างเช่น เมื่อเร็ว ๆ นี้หน่วยงานจัดซื้อจัดจ้างของตำรวจได้จัดทำ trac ตกลงสำหรับการจดจำใบหน้ามูลค่า 20 ล้านดอลลาร์ ซึ่งทำให้เกิดความกังวลเพิ่มเติมเกี่ยวกับ “การเฝ้าระวังไบโอเมตริกซ์จำนวนมาก”

อย่างไรก็ตาม มีเพียงเก้าระบบอัลกอริธึมเท่านั้นที่ถูกส่งไปยังทะเบียนสาธารณะ โดยไม่มีโปรแกรม AI ที่ใช้ในระบบสวัสดิการโดย โฮมออฟฟิศ หรือตำรวจมีจำนวนเพิ่มมากขึ้น ในเดือนกุมภาพันธ์ รัฐบาลสหราชอาณาจักรประกาศว่าการใช้การลงทะเบียน AI จะเป็น "ข้อกำหนดสำหรับหน่วยงานภาครัฐทั้งหมด"

เมื่อถามถึงการขาดความโปร่งใส รัฐมนตรีกระทรวงวิทยาศาสตร์และเทคโนโลยี ปีเตอร์ ไคล์ ยอมรับว่าภาครัฐ “ไม่ได้ให้ความสำคัญอย่างจริงจังเพียงพอถึงความจำเป็นที่จะต้องมีความโปร่งใสในลักษณะที่รัฐบาลใช้อัลกอริทึม”

“ฉันยอมรับว่าหากรัฐบาลใช้อัลกอริทึมในนามของสาธารณะ สาธารณะก็มีสิทธิ์ที่จะรู้”

ไคล์.

“สาธารณชนจำเป็นต้องรู้สึกว่าอัลกอริธึมอยู่ที่นั่นเพื่อให้บริการพวกเขา ไม่ใช่ในทางกลับกัน วิธีเดียวที่จะทำเช่นนั้นได้คือต้องมีความโปร่งใสเกี่ยวกับการใช้งานของพวกเขา” ไคล์กล่าวเสริม

รัฐบาลสหราชอาณาจักรเพิกเฉยต่อคำเตือน

ตามบทความของ The Guardian ผู้เชี่ยวชาญเตือนเกี่ยวกับอันตรายของ AI หากนำมาใช้อย่างไม่วิพากษ์วิจารณ์ โดยตัวอย่างล่าสุดของระบบไอทีไม่ทำงานตามที่ตั้งใจไว้ รวมถึงซอฟต์แวร์ Horizon ของที่ทำการไปรษณีย์

การใช้เทคโนโลยี AI ใน Whitehall ครอบคลุมตั้งแต่ระบบ Copilot ของ Microsoft ไปจนถึงการตรวจสอบการฉ้อโกงและข้อผิดพลาดอัตโนมัติในระบบสิทธิประโยชน์ ประกาศ trac AI ล่าสุดอีกฉบับหนึ่งโดยกระทรวงการทำงานและเงินบำนาญ (DWP) อธิบายว่า "ความสนใจที่เพิ่มขึ้นอย่างรวดเร็วภายใน DWP ซึ่งสะท้อนถึงความสนใจของรัฐบาลและสังคมในวงกว้าง"

นอกจากตำรวจแล้ว โฮมออฟฟิศยังใช้ระบบบังคับใช้การเข้าเมืองที่ใช้ AI อีกด้วย ระบบนี้ ซึ่งนักวิจารณ์เรียกว่า “พนักงานดูแลคดีโดยหุ่นยนต์” มีส่วนเกี่ยวข้องในการกำหนดการตัดสินใจ รวมถึงการส่งผู้คนกลับประเทศบ้านเกิดของตน

อย่างไรก็ตาม รัฐบาลอธิบายว่ามันเป็น "ตามกฎ" ซึ่งตรงข้ามกับระบบ AI เนื่องจากไม่เกี่ยวข้องกับการเรียนรู้ของเครื่องจากข้อมูล ตามที่รัฐบาลระบุ สิ่งนี้นำมาซึ่งประสิทธิภาพแม้ว่ามนุษย์จะยังคงรับผิดชอบต่อการตัดสินใจแต่ละครั้งก็ตาม

มีรายงานว่า NHS England อยู่ในข้อ trac มูลค่า 330 ล้านปอนด์กับ Palantir เพื่อสร้างแพลตฟอร์มข้อมูลใหม่ขนาดใหญ่ ซึ่งทำให้เกิดความกังวลเกี่ยวกับความเป็นส่วนตัวของผู้ป่วย Palantir กล่าวว่าผู้ป่วยยังคงควบคุมข้อมูลได้

กลุ่มรณรงค์สิทธิความเป็นส่วนตัว Big Brother Watch เน้นย้ำว่าการเกิดขึ้นของความ trac ในการจดจำใบหน้าของตำรวจ แม้ว่า สมาชิกสภาผู้แทนราษฎรจะเตือน ว่าไม่มีกฎหมายควบคุม แต่ก็แสดงให้เห็นว่ารัฐบาลขาดความโปร่งใสเกี่ยวกับการใช้เทคโนโลยี AI

“การใช้ AI และอัลกอริธึมอย่างเป็นความลับเพื่อส่งผลกระทบต่อชีวิตของผู้คนทำให้สิทธิ์ในข้อมูลของทุกคนตกอยู่ในความเสี่ยง” Madeleine Stone ประธานเจ้าหน้าที่ฝ่ายสนับสนุนกล่าว

“หน่วยงานภาครัฐจะต้องเปิดกว้างและซื่อสัตย์เกี่ยวกับวิธีการใช้เทคโนโลยีนี้”

หิน.

Imogen Parker รองผู้อำนวยการฝ่ายวิจัยข้อมูลและ AI ยังได้แสดงความกังวลเกี่ยวกับการขาดความโปร่งใสอีกด้วย

“การขาดความโปร่งใสไม่เพียงแต่ทำให้สาธารณชนมืดมนเท่านั้น แต่ยังหมายความว่าภาครัฐกำลังมองข้ามการนำ AI มาใช้”

ปาร์คเกอร์.

“ความล้มเหลวในการเผยแพร่บันทึกความโปร่งใสของอัลกอริทึมกำลังจำกัดความสามารถของภาครัฐในการพิจารณาว่าเครื่องมือเหล่านี้ใช้งานได้หรือไม่ เรียนรู้จากสิ่งที่ใช้ไม่ได้ และติดตามผลกระทบทางสังคมต่างๆ ของเครื่องมือเหล่านี้” Parker กล่าวเสริม

จากศูนย์ถึง Web3 Pro: แผนเปิดตัวอาชีพ 90 วันของคุณ