
我們都曾有過那種詭異的時刻:當我們意識到自己在網(wǎng)上與“某人”交談時,其實是機器人在回應。早在ChatGPT的發(fā)布使得與互聯(lián)網(wǎng)“機器人”對話成為主流之前,非人類賬戶就已遍布網(wǎng)絡。1966年,麻省理工學院(MIT)的計算機科學家發(fā)明了ELIZA,旨在模擬與真人的對話。幾乎整整三十年后,微軟(Microsoft)用戶遇到了“Clippy”。盡管有些用戶曾莫名其妙地憎恨“Clippy”這個擬人化的曲別針,但在隨后幾年里,尤其是在2016年混亂的選舉季的推特(Twitter,現(xiàn)已更名為X)上,更具惡意的機器人賬戶顯而易見地活躍起來。
但這些機器人仍然存在。按照官方定義,機器人是執(zhí)行自動化、重復性任務的軟件應用程序。它們仍存在于數(shù)字空間中,也是人工智能革命的一個關鍵方面。這場革命可能會顛覆自20世紀90年代中期以來我們所熟知的互聯(lián)網(wǎng)形態(tài)。
問題在于,機器人活動的激增不僅擾亂了網(wǎng)絡流量,還可能通過扭曲那些驅動科技公司估值的核心指標,從而虛增互聯(lián)網(wǎng)經(jīng)濟規(guī)模。如今,自動化機器人占據(jù)了全球互聯(lián)網(wǎng)流量的一半以上。據(jù)網(wǎng)絡安全巨頭泰雷茲(Thales)的子公司Imperva稱,2024年機器人產(chǎn)生的流量首次超越了人類產(chǎn)生的活動量。Imperva發(fā)布了一份“惡意機器人報告”,其研究發(fā)現(xiàn)近50%的互聯(lián)網(wǎng)流量來自非人類來源,其中20%是所謂的“惡意機器人”,它們極易從事一系列惡意活動。
例如,機器人會制造虛假的頁面瀏覽量、點擊量、展示量和用戶會話人次,這些都會虛增重要的網(wǎng)站分析數(shù)據(jù)。這種扭曲直接影響著包括轉化率、平均會話時長等各項指標。網(wǎng)絡安全公司(誠然,它們可能在一定程度上是在推銷自家業(yè)務)聲稱,廣告欺詐機器人還會點擊按點擊付費的廣告或模擬用戶活動,導致公司為那些從未代表真實用戶的流量和轉化付費。它們估算,全球互聯(lián)網(wǎng)每年因此造成的損失高達數(shù)千億美元。
此外,想想那些展示“虛榮指標”(如原始用戶注冊數(shù)或應用下載量)的初創(chuàng)公司吧,其中許多指標都可能被機器人流量人為推高(并且經(jīng)常如此)。這些統(tǒng)計數(shù)據(jù)有時是公司自行報告的數(shù)據(jù),很少會接受獨立的審計。投資者依賴所有這些指標甚至更多指標,用來評估公司價值,因此虛假或夸大的數(shù)據(jù)可能會扭曲公司的真實實力。
想想投資者們,他們正在將資金投入到由機器人助推的商業(yè)模式,再想想阿波羅全球管理公司(Apollo Global Management)廣受關注的首席經(jīng)濟學家托斯滕·斯洛克的真知灼見。斯洛克以其在《Daily Spark》中震撼金融界的簡潔圖表分析而聞名。他最近發(fā)布了一張令人瞠目結舌的圖表,依據(jù)他的計算,“20世紀90年代的IT泡沫與今天的AI泡沫之間的區(qū)別在于,當今標普500指數(shù)前十大公司市值被高估的程度已超過了90年代?!睋Q言之,如果AI交易是泡沫,那么其規(guī)模已經(jīng)超過了“互聯(lián)網(wǎng)泡沫”。當時,互聯(lián)網(wǎng)泡沫破裂曾導致了一場嚴重的經(jīng)濟衰退。斯洛克雖未直接提及機器人問題,但這使得爭論變得更加嚴肅:萬一當前的AI繁榮正是建立在機器人的基礎之上,結果會怎么樣呢?
機器人與泡沫
這種由機器人驅動的虛增現(xiàn)象,可能正在助長更廣泛的技術和人工智能投資泡沫。隨著各公司報告用戶數(shù)量和參與度的快速增長,投資者爭相追逐下一個風口,所營造出來的市場環(huán)境,令人想起互聯(lián)網(wǎng)時代。當時,炒作和虛高的指標可能會掩蓋真實的商業(yè)基本面。
想想“獨角獸”的故事吧。硅谷將估值超過10億美元的私營公司稱為“獨角獸”。 2013年,風險投資家艾琳·李創(chuàng)造了這個詞,以強調其稀有性,當時獨角獸公司還只有幾十家,但如今這類公司早已不再稀有。據(jù)致力于連接創(chuàng)業(yè)者Founders Forum稱,到2025年,獨角獸公司的數(shù)量已超過1,200家。獨角獸公司數(shù)量的激增伴隨著2018年和2021年的“寬松貨幣”時代,當時美聯(lián)儲(Federal Reserve)將利率降至近乎前所未有的水平,風險資本追逐高風險投資以尋求收益。此后,風險資本的資金主要流向了AI領域,這是一個頗具諷刺意味的轉變。
歷史經(jīng)驗表明,當現(xiàn)實追上被夸大的預期時,市場最終會進行調整。有若干因素表明,AI和機器人問題或將面臨類似的清算。對虛假指標的識別便是其中一個因素。隨著人們對機器人驅動虛增現(xiàn)象規(guī)模的認知不斷加深,投資者和分析師可能對表面上的用戶數(shù)量和參與度統(tǒng)計數(shù)據(jù)更加懷疑。新的法規(guī)正開始著手解決機器人操縱行為背后的經(jīng)濟誘因。
隨著機器人在商業(yè)、社交媒體和消費者互動中的日益普及,監(jiān)管互聯(lián)網(wǎng)上的機器人已成為各國政府關注的焦點。機器人既可用于合法目的,也可能用于惡意目的:它可以協(xié)助客戶服務,也可能被用于傳播虛假信息、生成虛假評價、搶票倒賣或操縱輿論。美國政府主要通過聯(lián)邦貿易委員會(Federal Trade Commission,F(xiàn)TC)來進行此類監(jiān)管。
政府的應對舉措
聯(lián)邦貿易委員會是處理涉及機器人的欺騙和不公平行為(尤其是影響消費者和商業(yè)的行為)的主要聯(lián)邦機構。2024年,該機構發(fā)布了一項最終規(guī)則,禁止虛假的和AI生成的消費者點評和推薦,該規(guī)則適用于傳統(tǒng)機器人和在網(wǎng)上生成誤導性內容或推薦信息的由AI驅動的機器人。
企業(yè)若買賣或傳播虛假評論或推薦信息(無論是由機器人還是人類撰寫),也可能面臨民事處罰。該規(guī)則旨在確保在線市場的透明度并遏制欺騙性行為。
美國國會方面則于2016年通過了《在線票務銷售改善法案》(BOTS Act),并于2025年通過行政命令進一步強化該法案,專門針對利用自動化機器人規(guī)避音樂會及活動門票購買管控的行為(黃牛黨常用此手段)。聯(lián)邦貿易委員會負責執(zhí)行這項法律。該法律規(guī)定在購買活動門票時使用機器人繞過安全措施或購買限制屬于非法行為。這項法律可被視為“泰勒·斯威夫特法”,因為在斯威夫特創(chuàng)紀錄的“時代之旅”(Eras Tour)巡演期間,粉絲們沮喪地發(fā)現(xiàn),新門票在幾秒鐘內就被機器人搶購一空。
聯(lián)邦貿易委員會還定期發(fā)布商業(yè)指南,要求對人工智能聊天機器人和虛擬化身服務保持透明度和準確性,并警告不要通過這些技術誤導消費者。該機構建議公司明確披露用戶何時正在與機器人互動,確保機器人不會虛假陳述自身能力,并避免使用機器人操縱或欺騙消費者。
一些州(如加利福尼亞州)已通過法律,要求機器人在試圖影響選民或消費者時表明身份。在加州推出《增強在線透明度法案》(Bolstering Online Transparency Act)后,其他州也出臺了類似法案,不過聯(lián)邦法律優(yōu)先權和跨境挑戰(zhàn)依然存在。
未來值得關注的方面
隨著機器人驅動的指標被曝光,用戶數(shù)量虛高的公司,尤其是無法證明真實、可持續(xù)增長能力的公司,可能會面臨估值下跌。市場可能會集中于那些擁有經(jīng)證實的、由真實人類驅動的參與度和收入的公司,而那些依賴人為指標的公司則可能舉步維艱甚至失敗。預計市場對用戶和參與度數(shù)據(jù)的第三方驗證需求將會增加,分析領域也會出現(xiàn)更強大的機器人檢測和過濾機制。
此外,機器人技術在計算領域已存在半個多世紀,而且隨著時間的推移,其數(shù)量只會越來越多。由機器人驅動的互聯(lián)網(wǎng)統(tǒng)計數(shù)據(jù)虛增現(xiàn)象,或許會成為數(shù)字生活中不可避免的一部分。(財富中文網(wǎng))
關于本文,《財富》雜志使用了生成式AI輔助完成初稿。編輯在發(fā)布前已核實信息的準確性。
譯者:劉進龍
審校:汪皓
我們都曾有過那種詭異的時刻:當我們意識到自己在網(wǎng)上與“某人”交談時,其實是機器人在回應。早在ChatGPT的發(fā)布使得與互聯(lián)網(wǎng)“機器人”對話成為主流之前,非人類賬戶就已遍布網(wǎng)絡。1966年,麻省理工學院(MIT)的計算機科學家發(fā)明了ELIZA,旨在模擬與真人的對話。幾乎整整三十年后,微軟(Microsoft)用戶遇到了“Clippy”。盡管有些用戶曾莫名其妙地憎恨“Clippy”這個擬人化的曲別針,但在隨后幾年里,尤其是在2016年混亂的選舉季的推特(Twitter,現(xiàn)已更名為X)上,更具惡意的機器人賬戶顯而易見地活躍起來。
但這些機器人仍然存在。按照官方定義,機器人是執(zhí)行自動化、重復性任務的軟件應用程序。它們仍存在于數(shù)字空間中,也是人工智能革命的一個關鍵方面。這場革命可能會顛覆自20世紀90年代中期以來我們所熟知的互聯(lián)網(wǎng)形態(tài)。
問題在于,機器人活動的激增不僅擾亂了網(wǎng)絡流量,還可能通過扭曲那些驅動科技公司估值的核心指標,從而虛增互聯(lián)網(wǎng)經(jīng)濟規(guī)模。如今,自動化機器人占據(jù)了全球互聯(lián)網(wǎng)流量的一半以上。據(jù)網(wǎng)絡安全巨頭泰雷茲(Thales)的子公司Imperva稱,2024年機器人產(chǎn)生的流量首次超越了人類產(chǎn)生的活動量。Imperva發(fā)布了一份“惡意機器人報告”,其研究發(fā)現(xiàn)近50%的互聯(lián)網(wǎng)流量來自非人類來源,其中20%是所謂的“惡意機器人”,它們極易從事一系列惡意活動。
例如,機器人會制造虛假的頁面瀏覽量、點擊量、展示量和用戶會話人次,這些都會虛增重要的網(wǎng)站分析數(shù)據(jù)。這種扭曲直接影響著包括轉化率、平均會話時長等各項指標。網(wǎng)絡安全公司(誠然,它們可能在一定程度上是在推銷自家業(yè)務)聲稱,廣告欺詐機器人還會點擊按點擊付費的廣告或模擬用戶活動,導致公司為那些從未代表真實用戶的流量和轉化付費。它們估算,全球互聯(lián)網(wǎng)每年因此造成的損失高達數(shù)千億美元。
此外,想想那些展示“虛榮指標”(如原始用戶注冊數(shù)或應用下載量)的初創(chuàng)公司吧,其中許多指標都可能被機器人流量人為推高(并且經(jīng)常如此)。這些統(tǒng)計數(shù)據(jù)有時是公司自行報告的數(shù)據(jù),很少會接受獨立的審計。投資者依賴所有這些指標甚至更多指標,用來評估公司價值,因此虛假或夸大的數(shù)據(jù)可能會扭曲公司的真實實力。
想想投資者們,他們正在將資金投入到由機器人助推的商業(yè)模式,再想想阿波羅全球管理公司(Apollo Global Management)廣受關注的首席經(jīng)濟學家托斯滕·斯洛克的真知灼見。斯洛克以其在《Daily Spark》中震撼金融界的簡潔圖表分析而聞名。他最近發(fā)布了一張令人瞠目結舌的圖表,依據(jù)他的計算,“20世紀90年代的IT泡沫與今天的AI泡沫之間的區(qū)別在于,當今標普500指數(shù)前十大公司市值被高估的程度已超過了90年代?!睋Q言之,如果AI交易是泡沫,那么其規(guī)模已經(jīng)超過了“互聯(lián)網(wǎng)泡沫”。當時,互聯(lián)網(wǎng)泡沫破裂曾導致了一場嚴重的經(jīng)濟衰退。斯洛克雖未直接提及機器人問題,但這使得爭論變得更加嚴肅:萬一當前的AI繁榮正是建立在機器人的基礎之上,結果會怎么樣呢?
機器人與泡沫
這種由機器人驅動的虛增現(xiàn)象,可能正在助長更廣泛的技術和人工智能投資泡沫。隨著各公司報告用戶數(shù)量和參與度的快速增長,投資者爭相追逐下一個風口,所營造出來的市場環(huán)境,令人想起互聯(lián)網(wǎng)時代。當時,炒作和虛高的指標可能會掩蓋真實的商業(yè)基本面。
想想“獨角獸”的故事吧。硅谷將估值超過10億美元的私營公司稱為“獨角獸”。 2013年,風險投資家艾琳·李創(chuàng)造了這個詞,以強調其稀有性,當時獨角獸公司還只有幾十家,但如今這類公司早已不再稀有。據(jù)致力于連接創(chuàng)業(yè)者Founders Forum稱,到2025年,獨角獸公司的數(shù)量已超過1,200家。獨角獸公司數(shù)量的激增伴隨著2018年和2021年的“寬松貨幣”時代,當時美聯(lián)儲(Federal Reserve)將利率降至近乎前所未有的水平,風險資本追逐高風險投資以尋求收益。此后,風險資本的資金主要流向了AI領域,這是一個頗具諷刺意味的轉變。
歷史經(jīng)驗表明,當現(xiàn)實追上被夸大的預期時,市場最終會進行調整。有若干因素表明,AI和機器人問題或將面臨類似的清算。對虛假指標的識別便是其中一個因素。隨著人們對機器人驅動虛增現(xiàn)象規(guī)模的認知不斷加深,投資者和分析師可能對表面上的用戶數(shù)量和參與度統(tǒng)計數(shù)據(jù)更加懷疑。新的法規(guī)正開始著手解決機器人操縱行為背后的經(jīng)濟誘因。
隨著機器人在商業(yè)、社交媒體和消費者互動中的日益普及,監(jiān)管互聯(lián)網(wǎng)上的機器人已成為各國政府關注的焦點。機器人既可用于合法目的,也可能用于惡意目的:它可以協(xié)助客戶服務,也可能被用于傳播虛假信息、生成虛假評價、搶票倒賣或操縱輿論。美國政府主要通過聯(lián)邦貿易委員會(Federal Trade Commission,F(xiàn)TC)來進行此類監(jiān)管。
政府的應對舉措
聯(lián)邦貿易委員會是處理涉及機器人的欺騙和不公平行為(尤其是影響消費者和商業(yè)的行為)的主要聯(lián)邦機構。2024年,該機構發(fā)布了一項最終規(guī)則,禁止虛假的和AI生成的消費者點評和推薦,該規(guī)則適用于傳統(tǒng)機器人和在網(wǎng)上生成誤導性內容或推薦信息的由AI驅動的機器人。
企業(yè)若買賣或傳播虛假評論或推薦信息(無論是由機器人還是人類撰寫),也可能面臨民事處罰。該規(guī)則旨在確保在線市場的透明度并遏制欺騙性行為。
美國國會方面則于2016年通過了《在線票務銷售改善法案》(BOTS Act),并于2025年通過行政命令進一步強化該法案,專門針對利用自動化機器人規(guī)避音樂會及活動門票購買管控的行為(黃牛黨常用此手段)。聯(lián)邦貿易委員會負責執(zhí)行這項法律。該法律規(guī)定在購買活動門票時使用機器人繞過安全措施或購買限制屬于非法行為。這項法律可被視為“泰勒·斯威夫特法”,因為在斯威夫特創(chuàng)紀錄的“時代之旅”(Eras Tour)巡演期間,粉絲們沮喪地發(fā)現(xiàn),新門票在幾秒鐘內就被機器人搶購一空。
聯(lián)邦貿易委員會還定期發(fā)布商業(yè)指南,要求對人工智能聊天機器人和虛擬化身服務保持透明度和準確性,并警告不要通過這些技術誤導消費者。該機構建議公司明確披露用戶何時正在與機器人互動,確保機器人不會虛假陳述自身能力,并避免使用機器人操縱或欺騙消費者。
一些州(如加利福尼亞州)已通過法律,要求機器人在試圖影響選民或消費者時表明身份。在加州推出《增強在線透明度法案》(Bolstering Online Transparency Act)后,其他州也出臺了類似法案,不過聯(lián)邦法律優(yōu)先權和跨境挑戰(zhàn)依然存在。
未來值得關注的方面
隨著機器人驅動的指標被曝光,用戶數(shù)量虛高的公司,尤其是無法證明真實、可持續(xù)增長能力的公司,可能會面臨估值下跌。市場可能會集中于那些擁有經(jīng)證實的、由真實人類驅動的參與度和收入的公司,而那些依賴人為指標的公司則可能舉步維艱甚至失敗。預計市場對用戶和參與度數(shù)據(jù)的第三方驗證需求將會增加,分析領域也會出現(xiàn)更強大的機器人檢測和過濾機制。
此外,機器人技術在計算領域已存在半個多世紀,而且隨著時間的推移,其數(shù)量只會越來越多。由機器人驅動的互聯(lián)網(wǎng)統(tǒng)計數(shù)據(jù)虛增現(xiàn)象,或許會成為數(shù)字生活中不可避免的一部分。(財富中文網(wǎng))
關于本文,《財富》雜志使用了生成式AI輔助完成初稿。編輯在發(fā)布前已核實信息的準確性。
譯者:劉進龍
審校:汪皓
We’ve all had that uncanny moment when we realize we’ve been talking to “someone” online when we realize it’s a robot responding. Long before the release of ChatGPT mainstreamed the act of talking to “bots” on the internet, non-human accounts were all over the web. MIT computer scientists invented ELIZA in 1966, to simulate conversations with a real human being. Microsoft users met “Clippy” almost exactly three decades later. Despite some users’ unlikely vitriol for the anthropomorphic paper clip, much more malicious bots became obvious to users in the years to come on social media, especially on Twitter in the chaotic election season of 2016.
But the bots are still with us. Officially defined as software applications that run automated, repetitive tasks, bots are still swimming in the digital ether, and they’re a key aspect of the artificial intelligence (AI) revolution that is threatening to undo the internet as it’s been known since the mid-1990s.
The catch is that the surge in bot activity is not just disrupting web traffic—it may also be inflating the internet economy by distorting the very metrics that drive tech company valuations. Automated bots now make up more than half of global internet traffic. Bots surpassed human-generated activity for the first time in 2024, according to Imperva, a subsidiary of cybersecurity giant Thales. Imperva, which issues a “Bad Bot report,” found that almost 50% of internet traffic comes from non-human sources, with 20% of that being so-called “bad bots,” prone to a host of malicious activities.
For example, bots generate fake pageviews, clicks, impressions, and user sessions, all of which inflate top-line web analytics data. This distortion directly impacts metrics including conversion rates, average session duration, and the like. Cybersecurity firms, which admittedly may be talking their book to some extent, claim that ad fraud bots also click on pay-per-click ads or simulate user activity, causing companies to pay for traffic and conversions that never represent real humans. They put the damage at hundreds of billions of dollars per year around the global internet.
Also, consider the startups that showcase “vanity metrics” such as raw user sign-ups or app downloads, many of which can be (and often are) pumped up by bot traffic. These statistics are sometimes self-reported and rarely audited independently. Investors rely on all of these metrics—and more—to assess company value, so fake or inflated data can misrepresent underlying business strength.
Consider the investors that are pumping money into bot-boosted business models, and then consider the wisdom of Torsten Slok, the widely read chief economist for Apollo Global Management, who is known for shaking the financial community with his brief charticles in his “Daily Spark.” He recently posted an eye-popping chart, based off his calculations that “the difference between the IT bubble in the 1990s and the AI bubble today is that the top 10 companies in the S&P 500 today are more overvalued than they were in the 1990s.” In other words, if the AI trade is a bubble, it’s a bigger bubble than the one that popped in the days of the “dotcom crash,” leading to a nasty recession. Slok didn’t address the bot question, but it lends further seriousness to the debate: what if the current AI boom is built on the backs of bots?
https://www.goldmansachs.com/insights/articles/ai-stocks-arent-in-a-bubble
Bots and bubbles
This bot-driven inflation may be feeding into a broader tech and AI investment bubble. As companies report rapid user growth and engagement, investors chase the next big thing, and result is a market environment reminiscent of the dot-com era, where hype and inflated metrics risk overshadowing real business fundamentals.
Consider the story of the unicorns: Silicon Valley’s term for private firms with $1 billion-plus valuations. From just a few dozen in 2013, when venture capitalist Aileen Lee coined the term to stress their rarity, unicorns have become anything but. The numbered over 1,200 by 2025, according to Founders Forum, an organization committed to connecting entrepreneurs. Surges in unicorn formation accompanied the “easy money” era of 2018 and 2021, when the Federal Reserve lowered interest rates to nearly unprecedented levels and venture capital money chased risky investments, seeking yield. The money in VC has since largely gravitated to AI, a deeply ironic turn of events.
History suggests that markets eventually correct when reality catches up to inflated expectations. Several factors point to a similar reckoning for AI and the bot problem. Recognition of fake metrics is one. As awareness grows about the scale of bot-driven inflation, investors and analysts could grow more skeptical of headline user numbers and engagement stats. New regulations are beginning to address the economic incentives behind bot-driven manipulation.
Regulating bots on the internet has become a critical focus for governments in response to their growing presence in commerce, social media, and consumer interactions. Bots can be used for both legitimate and malicious purposes: assisting with customer service, but also spreading misinformation, generating fake reviews, scalping tickets, or manipulating public opinion. The U.S. government mainly does this through the Federal Trade Commission (FTC).
What the government is trying to do about it
The FTC is the leading federal agency addressing deception and unfair practices involving bots, especially those affecting consumers and commerce. In 2024, the FTC issued a final rule prohibiting fake and AI-generated consumer reviews and testimonials, which applies to both traditional and AI-powered bots that generate misleading content or endorsements online.
Businesses can also face civil penalties for buying, selling, or disseminating fake reviews or endorsements, whether authored by bots or humans. The rule aims to ensure transparency in online marketplaces and curb deceptive practices.
From Congress, there’s the BOTS Act (Better Online Ticket Sales Act), enacted in 2016 and strengthened by executive order in 2025, that specifically targets the use of automated bots to circumvent controls on ticket purchases for concerts and events, often used by scalpers. The FTC enforces this law, which makes it illegal to use bots to bypass security or purchasing limits when acquiring event tickets. This could be thought of as the “Taylor Swift” law, as fans found, to their displeasure, during her record-setting Eras Tour when new tickets disappeared in seconds, gobbled up by bots.
The FTC also regularly issues business guidance calling for transparency and accuracy about AI chatbots and avatar services, warning against misleading consumers through these technologies. The agency advises companies to clearly disclose when users are interacting with bots, ensure bots do not misrepresent capabilities, and avoid using bots to manipulate or deceive consumers.
Some states, such as California, have passed laws requiring bots to identify themselves when attempting to influence a voter or consumer. Other states have introduced similar bills modeled after California’s “Bolstering Online Transparency Act,” though federal preemption and cross-border challenges remain.
What to watch for
As bot-driven metrics are exposed, companies with inflated user numbers may see their valuations fall, especially if they can’t demonstrate real, sustainable growth. The market may consolidate around companies with proven, human-driven engagement and revenue, while those reliant on artificial metrics struggle or fail. Expect increased demand for third-party verification of user and engagement data, as well as more robust bot-detection and filtering in analytics.
Then again, bots have been a feature of computing for over half-a-century and they’ve just grown more and more plentiful over time. Bot-driven inflation of internet statistics may just become an inevitable part of digital life.
For this story, Fortune used generative AI to help with an initial draft. An editor verified the accuracy of the information before publishing.