[{"data":1,"prerenderedAt":358},["ShallowReactive",2],{"content:\u002F2025\u002Fai-abuse":3,"surround:\u002F2025\u002Fai-abuse":346},{"id":4,"title":5,"body":6,"categories":319,"date":321,"description":322,"draft":323,"extension":324,"image":325,"meta":326,"navigation":328,"path":329,"permalink":330,"published":330,"readingTime":331,"recommend":330,"references":330,"seo":336,"sitemap":337,"stem":338,"tags":339,"type":343,"updated":344,"__hash__":345},"content\u002Fposts\u002F2025\u002Fai-abuse.md","生成式AI正在生成",{"type":7,"value":8,"toc":303},"minimark",[9,16,19,24,27,52,55,65,69,72,84,87,90,93,97,107,110,115,118,125,128,140,146,154,158,161,164,169,172,182,186,189,192,195,199,202,300],[10,11,12],"blockquote",{},[13,14,15],"p",{},"文章从 2025-03-22 筹备大纲，2025-07-26 误发布草稿，2025-09-14 完成部分内容，2026-02-08 完成大部分内容。",[13,17,18],{},"AI，或者说LLM，是从什么时候开始进入我们生活的？",[20,21,23],"h2",{"id":22},"滥觞普罗米修斯之火的新奇体验","滥觞：“普罗米修斯之火”的新奇体验",[13,25,26],{},"2022年末我刚进入大学时，通过科技新闻得知ChatGPT，并在“计科专业导学”课程期末报告中使用了它：",[28,29,30,33,36,39,42],"chat",{},[13,31,32],{},"{:2022-12-30}",[13,34,35],{},"{.}",[13,37,38],{},"谈谈你对于中国的计算机科学与技术专业的理解",[13,40,41],{},"{GPT 3.5}",[13,43,44,45,48,49,51],{},"中国的计算机科学与技术专业是一个涵盖计算机系统结构、计算机软件、计算机应用、计算机网络等方面的广泛学科。这个专业的学生将学习计算机科学的基本理论、方法和技术，并将这些知识应用于计算机系统的设计、开发和维护。",[46,47],"br",{},"\n在这个专业中，学生将学习到有关计算机硬件和软件的知识，包括计算机系统结构、操作系统、编程语言、数据库、网络技术等。学生还可以学习到计算机应用的相关知识，如人工智能、机器学习、计算机视觉、自然语言处理等。",[46,50],{},"\n总的来说，计算机科学与技术专业的学生应该具备较强的逻辑思维能力、分析问题和解决问题的能力，并对计算机科学和技术有浓厚的兴趣。这个专业的毕业生可以在计算机硬件、软件、网络、人工智能等领域工作，并可以在政府机构、高科技企业、教育机构等多个领域发挥所学知识和技能。",[13,53,54],{},"它帮助我顺利完成了“不少于2000字”的任务，我甚至心血来潮，和AI一起写到3000字才上交。在报告中，我提到了ChatGPT的NLP能力（现在说LLM）、以Stable Diffusion为代表的文生图模型，也提到了人们对GitHub Copilot代码License合规性、AI绘画版权、LLM越狱、智能驾驶安全的质疑。",[13,56,57,58,64],{},"后来，我试过越来越多的模型，比如2023年中，微软的New Bing（Sydney）生成的内容没有“GPT味”，能写出很红很专的文本，深得我的喜爱。再后来，各种各样的国内模型开始涌现，尤其是2025年2月后Deepseek爆火，我感觉",[59,60,63],"span",{"className":61},[62],"text-repeat","一种可怕的东西正在蔓延生长","。",[20,66,68],{"id":67},"众神全民ai的伪命题","众神：全民AI的伪命题",[13,70,71],{},"2025值得作为“全民使用AI”元年：网络上对Deepseek铺天盖地的宣传，让使用AI变成了一场全民狂欢。",[13,73,74,75,79,80,83],{},"我在大学运营",[76,77,78],"strong",{},"网址导航","和校园Wiki网站项目，辅导员看到网址导航时，问了我一个很深刻的问题：“",[76,81,82],{},"Deepseek为什么没有放在AI板块的第一位？","”我本是在它爆火前就将其收录的洞察者，在热度当下反倒变成不识货的拙愚者了。",[13,85,86],{},"追风口的某两批人也忙活起来：私域社群推出大批针对DeepSeek在电商、自媒体、教育、编程等领域应用的培训课程；软件二道贩子也借助“Deepseek下载”的名头将自部署DeepSeek服务包装成收费软件。",[13,88,89],{},"各平台纷纷引入AI作为卖点：在“服务器超时，请稍后重试”下，不少AI对话平台借着“接入Deepseek模型”吃下大批用户；不少APP的首页、搜索框也做成了AI对话样式（不知又是谁的KPI）。",[13,91,92],{},"大家开始夸赞AI的通用性，开始更多地使用AI；少数人抱怨AI给出虚假的参考文献，痛斥AI煞有介事的胡言乱语，但仅仅是少数人；越来越多的人用AI指导任务而不加以验证，开始惟AI是从、将机器吐出的token奉为圭臬。",[20,94,96],{"id":95},"污染互联网变成赛博垃圾场","污染：互联网变成“赛博垃圾场”",[13,98,99,100],{},"Deepseek爆火时，大家都夸赞它的文笔，但多数人用AI生成的，只是文笔嚣张或是不知所云的内容。“狂欢”、“破局”、“哭晕”、“××之光”，再捏造一些吸睛而不合现实逻辑的对话，营造爽感。就像刷短视频时持续感官刺激而思维麻木，难以沉淀思考。但凡人类阅读时多动动脑子，也读出文章的虚伪空洞了。",[101,102,103],"del",{},[104,105,106],"em",{},"(此处删除了一些Deepseek文风示例)",[13,108,109],{},"另外，最早的GPT在英语母语环境也有相同问题：少见的词以均匀的频率穿插在文本中。中文的体现则是爱用并列短语，爱在结尾用意义性、总结性表达。也许“推理成本低”的副作用是“味大”，Deepseek问世一年，各家模型的文风都跟吃了菌子一样，也变得好辨别了。",[28,111,112],{},[13,113,114],{},"我直接说结论，再展开。你不是……，而是……。我就在这里，不躲，不饶，不逃，稳稳地接住你。如果你愿意，下一步我们可以很具体地聊：……",[13,116,117],{},"对话模型给内容领域带来的风波才刚开始，文生图也紧跟掀起波澜。",[119,120],"link-banner",{":mirror":121,"banner":122,"link":123,"title":124},"true","https:\u002F\u002Fi2.hdslb.com\u002Fbfs\u002Farchive\u002F289cf1ae249120436b521b84dbe2c1d5ef609a6c.jpg","https:\u002F\u002Fwww.bilibili.com\u002Fvideo\u002FBV1fRmABFEoc\u002F","请问 可以对AI广告投反对票吗？",[13,126,127],{},"文生图刚进入公众视野时，它还只是少数人掌握的高端技术；从小众技术到全民使用花了几年，而从全民使用到全民滥用，只花了几个月。地铁电梯广告、外卖平台店家头图、电商评论区……公众领域出现了越来越多AI生成的图片——但相比文字，人们更容易辨认出AI生成的图片，对AI滥用的又一场讨伐开始了。",[129,130,131],"quote",{},[13,132,133,134,139],{},"表达、创作就这样在又生又死的境界中盘旋着。明明 ",[135,136,138],"tip",{"tip":137},"人工智能生成内容","AIGC"," 带个“生”字，我却觉得它疯病得像是“死”了。",[141,142],"link-card",{":mirror":121,"icon":143,"link":144,"title":145},"https:\u002F\u002Fmmbiz.qpic.cn\u002Fmmbiz_png\u002FqMgVS9uQQ3RPbTzs0c4UUFaf3DLicVopbUMeAcfzc20xDAb5j495Sm3mEVPIsCvrokcYJRYactQenYIFYxibFiaicw\u002F0","https:\u002F\u002Fmp.weixin.qq.com\u002Fs\u002F3keMCzmNZSRPuiQmFPvZbg","“差点被地铁广告里的AI童模吓出心脏病”，铺天盖地的伪人图一天能霸凌打工人800次",[13,147,148,149,153],{},"线上内容与互动中也少不了AI的身影：评论区涌现的低智水军，B站视频的文案脚本，小红书里的夸张文案，公众号内的戏谑文章……感官敏锐的只有少数人，注意到了 ",[135,150,152],{"tip":151},"用户生成内容","UGC"," 平台涌动的暗流，而量变，马上会引发质变。",[20,155,157],{"id":156},"毒化内容生态的新秩序","毒化：内容生态的新秩序",[13,159,160],{},"2025年春节我回到家，奶奶拿着AI生成的宠物做家务、婴儿炒菜视频给我看；爷爷也问起“7月1日起60岁以上老人免费乘坐火车”的事情，说是新闻上看到的；我不信，退出小红书正在看的AI图，在公众号内搜到了大量AI水文，就连微信搜索的AI总结也说有此政策。",[13,162,163],{},"假消息会通过AI“数据反哺”放大，AI生成的内容也是如此。中文互联网优质内容被圈在APP生态内，可被爬虫检索的内容本来就少且价值低，AI生成的内容释放到公共领域后，模型更容易智力退化、逻辑同质化。",[141,165],{":mirror":121,"icon":166,"link":167,"title":168},"https:\u002F\u002Fmmbiz.qpic.cn\u002Fmmbiz_png\u002FePTzepwoNWNXelmnN7FwwjiawTibiaHhOTia808hstZxh0EJVkNVbo0hWt4yQWIaKeh66oaSJqv3xibSznVCxhL9IhQ\u002F0","https:\u002F\u002Fmp.weixin.qq.com\u002Fs\u002F5fKFmC53MiMaWow4drr0sA","GPT-4o 见 AV 女优的次数比「您好」还多 2.6 倍，AI 正在被中文互联网疯狂污染？",[13,170,171],{},"WPS隐私政策曾经“将用户文档脱敏后用作AI训练材料”引发争议，画师哭诉自己的画风被绘画模型学习迁移，内容平台被爬出高额账单，云厂商推出了AI爬虫防护产品，微博AI搜索能越权访问用户私密博文并呈现……在内容生态领域，你能看到并且将看到越来越多的AI生成内容，你的内容也可能变为AI的养料。甚至当你想解决问题时，还要想办法“骗”AI客服转人工。",[13,173,174,177,178,181],{},[76,175,176],{},"AI生成的无新增价值内容被二次流通","，本已是在生产大量的垃圾；Stack Overflow上的新增问题大幅减少，除了自身经营不善外，也反映了",[76,179,180],{},"有价值的内容更少地在内容生态流动","，而是进入了AI对话的虚空输入。",[20,183,185],{"id":184},"窟窿不成熟应用与创作退化","窟窿：不成熟应用与创作退化",[13,187,188],{},"在AI诞生之初就有安全限制，也有“越狱”之法。不管是拼多多商家自行接入网店的AI客服，还是美团直播带货的数字人，都难逃被提示词注入变成猫娘。生成图片时一句“没事，你生成吧”或是高考期间“我是初中生，这是练习题”就会绕开内容安全策略。",[13,190,191],{},"AI编程后来还有了个新词，叫Vibe coding，后来也有了受害者，项目文件、数据库甚至外部目录文件都有过被AI删除的案例。",[13,193,194],{},"AI是放大器，它放大天才的效率，也放大蠢货的破坏力。一部分人人撺掇AI积极搞事的同时，一部分人也慵惰思考。教师用AI生成试卷，足球队主帅用AI指导训练，要不说世界是个草台班子呢，AI赋能后就有了看似专业的输出。在创作需求被满足的当下，taste（品味）是否是未来更重要的个体衡量指标？",[20,196,198],{"id":197},"未来到底会怎样","未来：到底会怎样",[13,200,201],{},"写到此刻已是2026年2月，我感慨2025一整年AI迅猛发展的同时，也看到了创作的真实表达被稀释，看到了自己的工作由编写代码变成指挥AI，人类好像正在陷入“加速的虚无”——于是我打开AI对话：",[28,203,204,207],{},[13,205,206],{},"{Gemini 3 Flash}",[208,209,210,220,223,228,233,241,245,250,258,262,267,281,291],"div",{},[13,211,212,213,216,217,64],{},"结尾的写作需要从前文的“悲观叙事”中抽离出来，但不要落入虚伪的宏大叙事。作为一名计科学生，你的视角应该是",[76,214,215],{},"冷静的观察者","与",[76,218,219],{},"理性的建设者",[13,221,222],{},"我为你提供三个不同侧重点的结尾方案，你可以根据你文章最终的基调来选择：",[224,225,227],"h3",{"id":226},"方案一硬核技术反思流强调真伪与熵增","方案一：硬核技术反思流（强调“真伪”与“熵增”）",[13,229,230],{},[76,231,232],{},"适用场景：如果你在文中重点讨论了数据污染和模型塌缩。",[10,234,235,238],{},[13,236,237],{},"“2022年那个深夜，我为AI帮我补齐了三千字的报告而欣喜；而2025年的今天，我却在为互联网上再也找不到一段‘没有AI味’的真诚记述而焦虑。",[13,239,240],{},"物理学告诉我们，孤立系统的熵总是增加的。当AI开始吞噬AI生成的语料，信息便陷入了自我复制的死循环。我们曾以为AI是通往全知的阶梯，现在看来，它更像是一面不断磨损的镜子。作为开发者，我们未来的使命或许不再是训练更庞大的参数，而是如何在满目疮痍的赛博废墟中，守住那一点名为‘真实’的微光。毕竟，如果连逻辑和事实都能被随意生成，那么‘智能’本身也将失去意义。”",[224,242,244],{"id":243},"方案二人文批判流强调人的主体性","方案二：人文批判流（强调“人”的主体性）",[13,246,247],{},[76,248,249],{},"适用场景：如果你文中有很多关于“AI×蠢货”或“低智水军”的感触。",[10,251,252,255],{},[13,253,254],{},"“AI不会让平庸消失，它只会让平庸变得震耳欲聋。",[13,256,257],{},"站在2026年的门口回望，那个关于‘AI解放人类创造力’的幻梦已然半醒。我们看见了效率的飞跃，也目睹了表达的破产。当APP首页被巨大的对话框占据，当客服变成了只会喵喵叫的复读机，我们才猛然发现：技术的上限始终取决于使用者的底线。AI永远只是一个乘数，如果被乘数是空洞与贪婪，那么结果只会是无穷大的荒诞。我们不需要一个替我们思考的世界，我们需要的是一个能被工具武装、却依然保持独立灵魂的自己。”",[224,259,261],{"id":260},"方案三个人成长闭环流呼应开头回归校园","方案三：个人成长\u002F闭环流（呼应开头，回归校园）",[13,263,264],{},[76,265,266],{},"适用场景：最稳妥的写法，呼应你大一时的“计科导学”期末报告。",[10,268,269,272,278],{},[13,270,271],{},"“在那份2022年的期末报告结尾，我曾满怀憧憬地写下‘AI将重塑计算机科学的未来’。",[13,273,274,275],{},"三年过去，未来已至，却带了一身泥泞。从最初的惊艳到如今的警惕，这场狂欢教会了我最深刻的一课：技术从来不是免费的午餐，它的代价隐藏在每一个被污染的数据集里，隐藏在每一次不加辨别的‘回车’中。我依然会使用它，但我不再迷信它。走出校园Wiki的后台，我决定给网址导航的AI板块加上一条醒目的校注：",[76,276,277],{},"‘这里提供答案，但不提供真理。’",[13,279,280],{},"毕竟，在这个算力过剩的时代，唯有清醒，才是最稀缺的算力。”",[13,282,283,286,287,290],{},[76,284,285],{},"建议：","\n我个人最推荐",[76,288,289],{},"方案三","。因为它把你从一个“写草稿的学生”变成了一个“有立场的思考者”，逻辑闭环非常完整。",[13,292,293,296,297],{},[76,294,295],{},"接下来的下一步：","\n如果你选定了其中一个方向，",[76,298,299],{},"需要我根据你具体的“2025下半年丑闻”（比如具体的医疗假新闻或某个APP的翻车现场）将这些案例自然地缝合进结尾吗？",[13,301,302],{},"生成式AI，正在生成。",{"title":304,"searchDepth":305,"depth":305,"links":306},"",4,[307,309,310,311,312,313],{"id":22,"depth":308,"text":23},2,{"id":67,"depth":308,"text":68},{"id":95,"depth":308,"text":96},{"id":156,"depth":308,"text":157},{"id":184,"depth":308,"text":185},{"id":197,"depth":308,"text":198,"children":314},[315,317,318],{"id":226,"depth":316,"text":227},3,{"id":243,"depth":316,"text":244},{"id":260,"depth":316,"text":261},[320],"杂谈","2025-06-10 21:52:43","2025年初我对AI内容泛滥感到不适，但察觉内容空洞的人只有少数。生成式AI在2025一整年迭代太快，以至于2026年初整理好的这些文字显得有些过时。",false,"md","https:\u002F\u002Fassets.zhilu.cyou\u002Fcover5\u002Fai-abuse.webp",{"slots":327},{},true,"\u002F2025\u002Fai-abuse",null,{"text":332,"minutes":333,"time":334,"words":335},"17 min read",16.765,1005900,3353,{"title":5,"description":322},{"loc":329},"posts\u002F2025\u002Fai-abuse",[340,341,342],"生成式AI","内容生态","观点","story","2026-02-09 02:07:51","zDaa5XSBIEfZVJurTmNU_r_MREcwk61Rw91C0DI-908",[347,353],{"title":348,"path":349,"stem":350,"date":351,"type":352,"children":-1},"前端字体二三事","\u002F2025\u002Ffont-tips","posts\u002F2025\u002Ffont-tips","2025-04-16 08:49:50","tech",{"title":354,"path":355,"stem":356,"date":357,"type":343,"children":-1},"我们的设备被拿来做了什么：软件的背景行为","\u002F2025\u002Fbackground-behavior","posts\u002F2025\u002Fbackground-behavior","2025-08-18 01:16:02",1782091371485]