在人工智能（AI）技术迅猛发展的今天，其潜在风险也日益受到全球关注。最近，一封名为《对先进人工智能发出警告的权利》的联名信，由13位来自OpenAI和谷歌的员工发起，目前已获得包括图灵奖得主约书亚·本吉奥和乔弗里·辛顿在内的400多位全球AI领域专家的支持。信中强调，AI技术可能带来的人类灭绝风险不容忽视，必须将其视为与大流行病和核战争同等级别的全球性风险。
1. 内部员工的公开信：揭露AI行业风险
一封由11名来自OpenAI和DeepMind的员工发起的公开信，得到了“AI教父”Geoffrey Hinton等顶级专家的支持。信中指出，AI技术的快速发展虽然带来巨大潜力，但也伴随着加剧不平等、信息操纵和自主系统失控等严重风险。
2. 缺乏监管与吹哨人保护
公开信强调，AI行业目前缺乏足够的监管，公司内部对于安全性的重视不足。同时，员工在披露AI风险时面临保密协议的限制和报复风险，呼吁行业进行全面改革，提高透明度，并保护吹哨人权益。
3. 专家背书与行业现状
公开信得到了包括图灵奖得主Yoshua Bengio和AI安全领域顶尖专家Stuart Russell在内的业界大佬背书。信中提到，尽管OpenAI、DeepMind等公司和英美等国政府已承认AI风险的存在，但实际行动仍显不足。
4. 吹哨人保护与行业改革建议
公开信要求AI公司不得签订或执行禁止员工批评AI风险的保密协议，应为员工提供可验证的匿名流程，以便向公司董事会、监管机构和独立组织提出风险担忧，同时保护公司的商业机密和知识产权。
5. OpenAI的回应与行业挑战
OpenAI对公开信做出了回应，表示公司自豪于能提供强大且安全的AI系统，并将继续与全球政府、民间社会和其他社区进行接触。然而，内部员工的担忧和外部专家的警告，揭示了AI行业在安全性和商业化之间的挑战。
《对先进人工智能发出警告的权利》联名信地址：https://righttowarn.ai/
