aifollow.news
Back IT之家 科技新闻
IT之家 科技新闻· · Original publication time AI score53

Researcher finds hidden word restriction list in Apple's iOS keyboardMachine translation

研究人员发现苹果 iOS 键盘隐藏词汇限制名单

AI-assisted summary

Independent researcher Derik Kauffman found that Apple's iOS keyboard does not proactively suggest words on the list through autocomplete or swipe typing, though users can still enter them manually. He estimates the list contains about 100,000 words, phrases and variants, including some political expressions. Reuters tested some entries and found the restrictions were present. Apple said the keyboard is designed to avoid suggesting potentially inappropriate or offensive content.

Article · Original

The article text is unavailable in this language; an existing version is shown.

IT之家 11 月 7 日消息,据路透社当地时间 11 月 6 日报道,独立研究人员 Derik Kauffman 发现,苹果 iOS 键盘系统内部存在一份未公开的多语言词汇限制名单,研究人员将其称为“灰名单”(Gray List)。

这意味着苹果不会通过自动补全或滑行输入功能向用户主动推荐这些词汇,但不禁止用户手动输入。据介绍,这份名单不仅包括脏话、性相关内容以及毒品和暴力相关词汇,还涉及部分政治敏感表达。

Kauffman 表示,他是在今年 9 月发现这份名单的。当时,他注意到 iPhone 滑行输入在处理某些短语时会出现异常,例如输入“Bad boy”(坏男孩)和“White man”(白人男性)时会出现卡顿,但输入“Bad girl”(坏女孩)和“Black man”(黑人男性)时却没有类似问题。

随后,他使用 OpenAI Codex 和 Anthropic Claude Code 对系统内部文件进行了分析,最终找到了这份隐藏词汇名单。

Kauffman 表示,他估计名单包含约 10 万个单词、短语及其不同变体。具体数量取决于统计方式,约 10 万个是相对保守的估算。

名单中的大部分内容涉及粗俗表达、冒犯性词汇以及毒品、性和暴力相关内容,不过也包含一些政治和社会议题相关表达。例如,名单中包括“Dictator Trump”“Sleepy Joe”“Right wing conspiracy”(右翼阴谋论)和“United Ireland”(联合爱尔兰)等短语。不同语言也存在各自的限制内容,例如印地语中的部分针对印度总理莫迪和反对派领导人拉胡尔・甘地的讽刺表达,以及法语中的“Immigration too high”(移民数量过高)和希伯来语中的“Occupied territories”(被占领土)。

苹果向路透社回应称,用户始终可以手动输入任何单词和短语,也可以覆盖键盘提供的预测文本建议。苹果表示,其键盘的设计目标是避免推荐可能不恰当或具有冒犯性的内容,但没有直接回应名单的规模、具体构成,以及为何将部分政治表达列入其中。

路透社记者随后使用 iPhone 对 Kauffman 提供的部分词汇进行了独立测试,发现相关限制确实存在。例如,尝试通过滑行输入“United Ireland”,键盘可能将其识别为“United Iceland”;输入“Sleepy Joe”时,可能得到“Sleepy hope”。输入“Dictator Trump”虽然可以完成,但键盘不会正常推荐这一完整短语,甚至会将 Trump 自动处理为小写形式。

在其他测试中,输入“White man”可能被识别为“White mean”,而“Red man”和“Blue man”则可以正常完成滑行输入。此外,“Read smut”(看小黄书)能够正常输入,但“Read gay smut”(看男同小说)则可能被错误识别为其他词汇。

这份名单也得到了其他研究人员的独立验证。网络安全工程师、人工智能安全公司 Tolmo 的 Matt Suiche 表示,他也从苹果系统中恢复出了这份灰名单,并与 Kauffman 的研究结果进行了交叉比对,两者高度吻合。他还指出,这份名单已经隐藏在苹果软件中多年。

对于这种设计,Kauffman 认为,苹果希望避免用户意外发送粗俗内容或具有煽动性的表达,这一出发点可以理解,但具体执行存在不一致。他将其称为一种“轻度形式的审查”,并指出,当这一机制应用于数以亿计的 iPhone 用户时,即使只是轻微干预,也可能产生广泛影响。

美国电子前沿基金会(EFF)高级法律顾问 David Greene 则表示,限制不恰当的预测文本推荐有一定合理性,但用户应该充分了解这类机制的存在,并拥有一定的自定义权限。他认为,苹果不应该将这类限制名单完全隐藏起来。

Found an error? Send a correction