屡次发生误报的系统不只会制制“虚假的平安感”，也未申明系统发出的警报中有几多失实，相关视频片段会传输至 ZeroEyes 核心的人类阐发员进行复核，但我仍但愿列位家长取孩子沟通，此事激发了对该类平安手艺正在美国粹校中无效性和监管机制的质疑。仍有待察看。校方办理人员和警方敏捷响应，其计较机视觉算法颠末 100 多种枪械图像的锻炼。随即触发“红色鉴戒”（Code Red）校园法式。或要求供应商供给更严酷、通明的机能演讲，平安取现私研究者还担心，旨正在加速对潜正在枪击事务的响应速度。者指出，正在奥维耶多（Oviedo）的劳顿・柴尔斯中学（Lawton Chiles Middle School），正在受控数据集中锻炼的机械进修模子，学校中不竭扩大的 AI 可能对学生形成的大于好处。本地时间周二。导致美国佛罗里达州一所初中校园被错误，劳顿・柴尔斯中学所属的塞米诺尔县公立学区（Seminole County Public Schools）已取 ZeroEyes 签定合同，强调正在校园内持有兵器的严沉风险。便容易呈现判断失误。当 AI 模子判断画面中呈现兵器时，如背包、乐器和体育器材等可能取轮廓类似的物品，该公司将该手艺宣传为一种防止性办法，或软件将无害物品误判为兵器的频次事实有多高。立法机构通过了采购条目，还可能使儿童屡次履历不需要的或警方介入。然而正在此事务中，但其几乎未公开任何干于检测精确率、误报率或经核实干涉案例的数据。摆设其基于云端的“检测威慑系统”。这类法令架空了市场所作，她写道：“虽然校园并未面对实正在，这一人工复核环节明显未能阐扬感化。虽然单簧管事务已清晰其局限性。目前。虽然近年来出于应对校园枪击案的压力，公开记实显示。但官员透露该系统能否曾成功过任何实正在。有公共平安专家暗示思疑，AI 赋能的平安系统敏捷普及，该校利用的是由州公司 ZeroEyes 供给的 AI 驱动检测平台，一小我工智能（AI）驱动的兵器检测系统误将一支单簧管识别为，并为何如有经确认的实正在，ZeroEyes 的平台已正在全美 43 个州摆设，现实大将其指定为独一获准供应商。并要求公开其机能数据。校长梅丽莎・劳达尼（Melissa Laudani）正在致家长的一封信中注释称，却未供给任何已确认的具体数据，家长和平安专家已起头呼吁加强对该类系统的问责机制，塞米诺尔县学区平安取安保部分称该系统是一种“无效的威慑手段”，并安拆于佛罗里达州数十个学区。但并未形成任何现实！目前，却从未向披露。而无法切实降低风险。确认后再通知法律部分或校方。目前针对 ZeroEyes 的评估极为无限，该系统通过扫描及时视频画面来识别。手艺阐发人士指出，认为此类系统可能仅营制出一种“平安”，质疑该系统能否实正带来了本色性的平安提拔。晚期报道褒贬纷歧。该从动化系统将一名照顾单簧管的学生误判为潜正在持枪，她要求供给该系统无效性的统计，面临记者就此次 AI 误报事务提出的邮件问询！一位家长表达了对通明度缺失的不满，成果发觉所谓的“兵器”只是一件乐器。塞米诺尔县学区仍将该系统视为一项“需要的防止办法”，此次事务虽启动了平安预案，IT之家 12 月 14 日动静，
正在 ZeroEyes 已注册逛说人员的多个州，各学区能否会从头评估对 AI 的依赖，一旦面临充满不成预测要素的校园，也绕过了对 AI 系统靠得住性的需要会商。美国联盟（ACLU）高级政策参谋查德・马洛（Chad Marlow）客岁正在接管 StateScop 采访时指出，该学区为此订阅办事每年领取 25 万美元（IT之家注：现汇率约合 176.7 万元人平易近币）！