近年來，人工智慧(AI)的發展引發全球相關國家及國際人權機構的關注，雖然生成式AI仍在初期發展階段，但以飛快的速度進化發展。
聯合國人權事務高級專員辦事處(OHCHR)近期發布「生成式AI相關的人權風險分類」，依《世界人權宣言》明列出生成式AI的發展及使用，可能導致的不受歧視、隱私、表達及取得資訊自由、從事工作維持生計等基本權利危害。OHCHR呼籲相關利害關係人應先分辨生成式AI所涉及的人權風險，始能採取行動予以防範、減輕及補救所造成的人權損害。
歐盟也在今年3月通過《人工智慧法案》，加強對 AI 模型的問責制、透明度和審查，並將AI的應用區分不可接受風險、高風險、限制性風險、最小風險，分級進行管制。台灣則是在去年8月發布「行政院及所屬機關(構)使用生成式AI參考指引」，指出行政機關(構)使用生成式AI時，應秉持負責任及可信賴的態度，以及安全性、隱私性與資料治理、問責等原則，並掌握自主權與控制權。
國家人權委員會意識到這波AI浪潮下的人權保障問題，更在2023-2026中程策略計畫，納入生成式AI對人權影響的議題，密切關注AI的發展趨勢及所造成的人權衝擊。
7月12日（五）舉行的「人權同行，AI無虞：AI X 人權趨勢論壇」，國家人權委員會邀請政府機關代表、國際人權及個資保護的專家、國內學者、NGO、產業代表，透過產、官、學界的對話與討論，邀請大家交流彼此的看法與經驗，提供政策制定者、企業及社會各界在AI開發應用過程中，維護人權之參考。