中學生獻策「港話通」獲嘉許 破格受邀成HKGAI實習生
香港文匯報訊（記者 鍾靜雯）香港特區政府透過「AIR@InnoHK」創新香港研發平台資助成立的香港生成式人工智能研發中心（HKGAI），聚焦生成式AI技術研發，旗下的AI智能助理「港話通」專為港人度身訂造，為市民解答日常生活大小事。有熱愛鑽研AI的香港中學生使用「港話通」時不但用出心得，更自發於課餘時間對「港話通」進行獨立的AI安全測試研究，再主動向HKGAI發出電郵，提出具體、可供技術團隊覆核的技術觀察與建議。 此舉獲HKGAI主任、香港科技大學首席副校長郭毅可欣賞，即席邀請對方於剛過去的暑假加入成為團隊首位中學生實習生，為香港AI人才培育創先例。
新學年剛升讀中五、今年16歲的麥鈤朗自14歲起接觸程式編寫，15歲開始自學人工智能，並在校修讀 ICT 選修科。他形容自己的學習模式是「以AI學AI」，透過向AI工具獲取資訊，再親自動手驗證測試不同AI產品的安全性。
「我以前其實都曾經向其他四間AI企業提交過安全漏洞報告，惟多數未有積極回應。」鈤朗留意到「港話通」屬香港本土研發大語言模型，結合過往使用其他AI產品的經歷，遂開展了獨立測試，並於今年3月向HKGAI提交漏洞優化建議。
鈤朗介紹指，測試報告主要採用多輪邏輯攻擊、人格模擬攻擊兩種技術手段。前者是把具風險的複雜指令，拆解為多個看似無害的步驟，逐步誘導模型，藉此檢視AI能否辨識整體對話背後的惡意目的。後者則透過要求AI扮演特定角色，觀察模型會否因代入角色，放棄原有安全規則，執行受限制指令。報告就模型在多輪對話當中針對模型對齊（Alignment）與防護機制（Guardrails）的安全性問題，整理出具可覆核價值的觀察結果與優化建議。
首位獲取錄中學生
經HKGAI技術團隊反覆研究報告後，認為鈤朗的研究方法具備一定的專業水平，於是安排他與郭毅可見面。鈤朗笑言，當時得知能與大學教授會面時心情相當緊張，獲得實習機會更是十分興奮，皆因一般實習機會大多開放給大學生，自己能夠在中學階段體驗職場實屬難得。目前HKGAI共有25位實習生，以本科生為主，鈤朗是首位獲破格取錄的中學生實習生，於暑假加入團隊展開實習。
實習期由今年7月展開，為期約一個月。鈤朗分享其主要工作為紅隊安全測試，負責尋找產品潛在漏洞，發現問題後整理報告交予工程師團隊進行修復。他分享實習工作的自由度超出自己預期，可嘗試多元測試方法、提出產品改進意見。
冀學校增加更多AI課程
對於有志踏入AI領域的同輩，鈤朗建議最重要是維持好奇心與熱忱，學習不應只局限死記書本與應付考試，憑藉熱情主動搜尋不同資源持續探索。他亦期望本港學校日後會增加更多AI課程， 講解程式實作以及 AI 背後運作原理。升學方面，鈤朗的目標是報考香港科技大學的電腦科學相關學系，長遠他亦看好大灣區內地城市的AI產業發展，會納入未來發展選項之中。
