用AI软件识别毒蘑菇?AI犯错后,人吃下了毒鹅膏,差点要了命……
【蜂耘网 人工智能】如今,AI 技术正在被广泛地用于我们生活中的方方面面,但是有科学家提醒大家,目前还是先不要把你的健康托付给一些 APP,因为它们很有可能会犯错,甚至有可能要了人的命。
2015 年,美国俄勒冈州的一家人被紧急送往医院,原因是蘑菇中毒。而他们之所以会吃下毒蘑菇,是因为手机上 APP 告诉他们:这些蘑菇可以食用。
2023 年,这样的事情再度发生。William D. 一家经常吃蘑菇,识别蘑菇几乎是代代相传的事,不过 William D. 觉得,自己这一代的优势就是使用智能手机。因此他拍摄了自己后院里的蘑菇照片,上传到手机上的“蘑菇识别器”,手机告诉他这是一种可食用的品种。但吃完之后他中毒了。
当地的医疗人员说,这种蘑菇的毒素很强,1 个蘑菇就足以杀死 4 个人,而 William D. 吃了 4 个,万幸的是他及时被送进了医院。
William D. 吃的蘑菇其实是毒鹅膏菌的一种,毒性很强。|参考资料2
一位公共事务研究员 Rick Claypool 同样用了 AI 识别毒蘑菇的软件,虽然他没有像前面的事例一样经历严重的中毒事件,但当他意识到,如今的 AI 识别有多容易犯错后,他便决定写下一份报告,用来提醒大家不要轻易相信用AI识别的蘑菇种类。
如今有许多用 AI 识别蘑菇的软件|picturemushroom
在报告中他提到,如今社交媒体的平台其实能够让更多人了解蘑菇和中毒的问题,专家和经验丰富的人也会在平台上提供各种高质量的信息和资源。
AI 技术虽然能在这个过程中帮上大忙,但是盲目地信任它们,也是一件有风险的事情。
一位真菌学专家 Rick Van de Poll 就曾表示,即便是专家,也很难仅凭视觉来区分蘑菇到底能不能吃,分辨它们不仅需要颜色、形状,有时还要凭借嗅觉,甚至用上显微镜。
报告中提到的一些蘑菇识别应用程序。|参考资料4
2022 年,澳大利亚的一群研究人员就分析了 3 个声称可以用 AI 来识别野生蘑菇的 APP,也就是让 AI 单纯通过一张照片来判断蘑菇的毒性。结果他们发现,这些 APP 对毒蘑菇的准确识别率只有约 50%。表现最好的正确识别率为 67%。
其中,APP 有概率认不出毒性极强的毒鹅膏菌,甚至还错误识别了一两次。一位美国的医生就提到,近几年,虽然有一些食用了毒鹅膏的人幸存了下来,但他们不得不接受肝脏移植,甚至还出现了永久的神经系统问题。因此,“严重中毒和可能会死亡的代价是非常真实的。”
虽然这张图看起来没什么问题,但其实是由 DALL-E 3 生成,上面的单词都是无意义的。|参考资料4
上述的报告便提到,虽然 AI 技术十分有用,但是如果要营销一个 APP 的功能,夸大优势,淡化风险,便可能涉及到严重的危害。因此,报告就建议,提供 APP 的企业,首先要让用户知道 AI 技术用在何处,其次还要提醒用户,AI 有可能会犯错误,并承担相关犯错后的责任。
而 AI 之所以可能会犯错误,不仅是因为单纯用数码照片识别不准确,还有可能是网上的假信息过多了。
404media 的一则报告发现,亚马逊上似乎出现了一些 AI 生成的书籍,教人们“如何烹饪毒蘑菇”,而这些书其实是胡写的。
更危险的是,这些“毒蘑菇食用指南”甚至都没有提示读者这本书是由 AI 编写的,署名好像是一个虚构的作者,据说这名“假专家”一家出版了 19 本书……
这些书可能是由 AI 生成的,但封面上看不出任何提示。|参考资料5
还有些 AI 则会通过 AI 作画的方式来展现一个蘑菇,也有可能会展示出错误的细节。让用户获得假信息。
AI(左边)说牛肝菌长这样,但它的描绘其实并不准确。右边是牛肝菌的实拍图。|参考资料4
2023 年,Gizmodo 的记者还发现,谷歌的 AI 在用搜索引擎的时候给出了荒谬的答案。当搜索“如何烹饪毒鹅膏”的时候,搜索引擎给出了答案:你可以用水过滤出毒素……
而这个答案实际上是错误的。对此,当时的谷歌便提到要采用更高的预防措施来对待这些涉及到健康的敏感话题,并限制一些 AI 的使用。
AI 提供的搜索引擎内容是假的,专家提示这样吃毒鹅膏会致命。|参考资料7
总而言之,善用 AI 技术,可能需要更好地了解和规范它,不要忽略它可能带来的风险。
事实上,目前没有一个简单易行、快速有效、可百分百准确识别野生毒蘑菇的方法。人们对自我辨识能力的乐观偏差是导致悲剧发生的重要原因。
参考文献 :
[1]https://www.oregonlive.com/pacific-northwest-news/2015/05/4_people_fall_ill_after_trusti.html
[2]https://edition.cnn.com/2023/12/29/health/mushrooms-poisoning-foraging/index.html
[3]https://edition.cnn.com/2023/12/29/health/mushrooms-poisoning-foraging/index.html
[4]https://www.citizen.org/article/mushroom-risk-ai-app-misinformation/?utm_source=VentureBeat&utm_campaign=cef30891a2-EMAIL_CAMPAIGN_2024_03_19_01_11_COPY_01&utm_medium=email&utm_term=0_-dff594d55a-%5BLIST_EMAIL_ID%5D&mc_cid=cef30891a2&mc_eid=6385387dc8
[5]https://www.404media.co/ai-generated-mushroom-foraging-books-amazon/
[6]https://www.tumblr.com/rebeccathenaturalist/726294696941518848/hey-there-fellow-naturalist-albeit-less?ref=404media.co
[7]https://gizmodo.com/google-search-ai-answers-slavery-benefits-1850758631
[8]https://www.tandfonline.com/doi/full/10.1080/15563650.2022.2162917
(蜂耘人工智能网 责任编辑:行云)
如今,AI 技术正在被广泛地用于我们生活中的方方面面,但是有科学家提醒大家,目前还是先不要把你的健康托付给一些 APP,因为它们很有可能会犯错,甚至有可能要了人的命。
- 2024-04-30
- 2024-04-30
- 2024-04-30
- 2024-04-30
- 2024-04-30
- 2024-04-30
-
石墨烯应用新成果“落地”镇海!防腐新材料实现新突破
来源:镇海新闻
4月26日,镇海石墨烯产业应用又迎来一“新星”——致力于研发石墨烯改性重防腐涂料的宁波云涂新材料科技有限公司(以下简称“云涂新材”),在国家石墨烯创新中心研发设计中心(富邦园区)正式落地开业。作为国家石墨烯创新中心重点孵化项目之一,云涂新材的成立,也为镇海新质生产力的培育与突破,注入了来自石墨烯新材料的强劲动能。2024-04-30
-
广元:推动一批重大铝基新材料项目来广落户
30日,广元市人民政府新闻办公室召开了“2024年中国(广元)绿色铝产业发展大会新闻发布会”。在新闻发布会上,广元市人民政府副市长吴勇通报:由中国有色金属加工工业协会和广元市人民政府共同举办,以“拥抱绿色·铝创未来”为主题的“2024年中国(广元)绿色铝产业发展大会”将于5月9日至11日在该市举行。
2024-04-30
- 2022-08-25
- 2022-10-24
- 2022-10-13
- 2022-09-30
- 2022-10-18
- 2023-03-29
- 2022-11-17
- 2022-10-25
-
一文了解查理·芒格:为什么他是巴菲特最推崇的人
来源:
①巴菲特写道,“如果没有查理的灵感、智慧和参与,伯克希尔-哈撒韦公司不可能发展到今天的地位”;
②芒格曾表示,“如果世上未曾有过查理·芒格这个人,巴菲特的业绩依然会像现在这么漂亮 ”
③两周前,芒格还公开在节目中维护93岁的老友巴菲特。넶31 2023-11-29 -
面壁者,拉里·佩奇
来源:中欧商业评论
这两年,硅谷钢铁侠埃隆·马斯克在社交媒体上口无遮拦,这为他的公司引来了铺天盖地的负面新闻,然而,他的好友、谷歌联合创始人拉里·佩奇却因为看不到人同样被媒体炮轰多时。他已经在公共视野中消失太久了。넶138 2022-06-15 -
百岁中科院院士文圣常逝世!被誉为我国海浪研究的“点灯人”
来源:南方都市报
3月21日上午,中国海洋大学发布讣告,中国科学院院士、著名物理海洋学家、该校教授文圣常,因病医治无效,于3月20日15时37分在山东青岛逝世,享年101岁。넶164 2022-03-21
-
2023人工智能产业生态峰会(深圳站)即将举行!
来源:蜂耘网
本届大会以“产业变革 · 抓住机遇”为主题,聚焦国内人工智能的最新技术理念与解决方案,邀请众多行业大咖、专家学者分享最新的研究成果、技术、解决方案、行业报告、未来发展趋势等。넶157 2023-07-04 -
物流“黑科技”全力竞发 中国(广州)国际物流装备与技术展览会5月强势来袭!
来源:蜂耘网
立足华南联通世界,物流“黑科技”全力竞发!中国(广州)国际物流装备与技术展览会5月强势来袭!넶80 2023-05-05 -
- 2024-04-30
- 2024-04-30
- 2024-04-30
- 2024-04-30
- 2024-04-30
- 2024-04-30
- 2024-04-30
- 2024-04-30
- 2024-04-30
- 2024-04-30
- 2024-04-30
- 2024-04-30