最近產(chǎn)品經(jīng)理的朋友圈又被ChatGPT刷屏了。

(資料圖)

因為4.0支持多態(tài)模型，以及圖片查閱，從以前聽得見到現(xiàn)在看得見，能力升級后大火，同時在第二天百度的文心一言也發(fā)布。

雖然在發(fā)布會上李彥宏的中國版ChatGPT被吐槽說是用錄播視頻來展示效果甚至是叫做Chat PPT，但是作為中國的科技公司，第一次向美國的Chat GPT對標，無論如何這也是中國發(fā)起的"科技戰(zhàn)"第一步。

今天這篇文章，我不是去吐槽或者嘲笑國內(nèi)版本的chat GPT，反而是作為產(chǎn)品經(jīng)理，我們會更加對產(chǎn)品背后的數(shù)據(jù)安全有更加敏銳的判斷能力。

那么在使用Chat GPT類產(chǎn)品，背后會帶來什么樣的數(shù)據(jù)與信息安全問題呢？

我做3點分享

1.現(xiàn)在的ChatGPT類產(chǎn)品就像在做黑盒測試

有過測試經(jīng)驗的產(chǎn)品經(jīng)理應(yīng)該知道，我們產(chǎn)品上線前會經(jīng)歷白盒測試和黑盒測試，通過Chat GPT我得到了兩者的區(qū)別和應(yīng)用場景?????????????????

"白盒測試是指測試人員了解軟件的內(nèi)部結(jié)構(gòu)和實現(xiàn)細節(jié)，包括源代碼、算法和數(shù)據(jù)結(jié)構(gòu)等。測試人員使用這些知識來設(shè)計和執(zhí)行測試用例，以測試軟件在不同條件下的行為和功能是否符合預(yù)期。

相比之下，黑盒測試則是不考慮軟件內(nèi)部結(jié)構(gòu)和實現(xiàn)細節(jié)，只關(guān)注軟件的功能和用戶界面等外部特征。測試人員基于軟件規(guī)格說明書、用戶手冊和其他文檔來設(shè)計和執(zhí)行測試用例，以驗證軟件是否滿足規(guī)格說明書中的需求和功能。

因此，白盒測試適用于對復(fù)雜的軟件進行全面測試，能夠發(fā)現(xiàn)潛在的代碼錯誤、邏輯錯誤和性能問題等。而黑盒測試則更側(cè)重于測試軟件的功能和用戶體驗，適用于對軟件外部特征進行測試。

需要注意的是，白盒測試和黑盒測試并不是互相排斥的，它們可以相互補充，共同構(gòu)成一套完整的測試方案。"

-----本介紹由ChatGPT生成

而現(xiàn)在使用Chat GPT類的產(chǎn)品，就相當(dāng)于是在一個黑盒場景里，用戶只管輸入自己的提問或內(nèi)容，馬上可以得到結(jié)果。但是卻不知道這些結(jié)果來自于哪里還是原版生成的。???????????????

2.Chat GPT 創(chuàng)新的交互方式????????????

在一次直播訪談里，360的CEO周鴻祎提到：????????????????????????????

"再牛的技術(shù)一定要有個貼切的場景。ChatGPT這次火起來，很重要的一點是找到了一種非常簡單的交流方式，就像當(dāng)年Google把復(fù)雜的搜索引擎藏在一個簡潔的搜索框一樣，ChatGPT今天把復(fù)雜的人工智能變成了云服務(wù)。"

現(xiàn)在我們說市面上的各種AI能力有多么強大，但是用戶很難感受到，如何讓用戶使用起來方便，快速感知。這是AI開發(fā)者也困擾的最大問題。

對于用戶來說，他們不需要知道這復(fù)雜的代碼和功能邏輯，她只需要可以直接使用，快速提升他的工作效率，就可以了。這就是非常強大的AI。

所以在這一點上，ChatGPT的產(chǎn)品經(jīng)理事非常優(yōu)秀的

3.用戶使用Chat GPT的"黑盒測試"????????

我身邊日常使用Chat GPT的同學(xué)，經(jīng)常會說："我還要花時間去驗證ChatGPT給的答案是不是正確，這個真累死我了"????????

因為Chat GPT會一本正經(jīng)的說錯誤答案，如果你對你提的問題完全不會，那么你幾乎不會發(fā)現(xiàn)它在胡亂說話。????????????????????

正式這種交互方式，讓用戶不知道Chat GPT說的答案是正確還是錯誤的。即使是錯誤的，也不知道是哪里錯了，錯了多少。??????????????

相信用它來寫論文、做作業(yè)的同學(xué)，會非常擔(dān)心ChatGPT所帶來的答案是否有查重率較高的情況，因為現(xiàn)在的ChatGPT并不能告訴你，自己的回答有多少重復(fù)率，所以學(xué)者用戶在使用上需要步步小心。

4.在Newbing上的進一步優(yōu)化???????

在new bing上，融入ChatGPT后可以給出related searches，以及通過信息流的形式展示出搜索引擎的答案，讓用戶可以不僅是通過ChatGPT獲得結(jié)果，還能夠篩選信息獲得，這樣的就會避免直接使用錯誤信息的情況。

但即使這樣，ChatGPT也仍然有信息安全的問題。比如是否會有某類信息不準展示，某類信息過于胡編亂造。???????????????????????????????????????????????

5.開發(fā)者自行干預(yù)，導(dǎo)致ChatGPT類應(yīng)用的結(jié)果有偏向性???????

開放的ChatGPT接口能力，開發(fā)者可以通過調(diào)用后融入在自己的應(yīng)用程序里，但我相信許多開發(fā)者會以固定關(guān)鍵詞、標簽甚至是算法植入的方式，將ChatGPT的應(yīng)用返回結(jié)果根據(jù)自己的場景進行修改等干預(yù)，所以我也不免擔(dān)心這類應(yīng)用是否會像百度SEO一樣，大量的投放廣告會充斥在百度的搜索結(jié)果里，就像下圖搜索"預(yù)防脫發(fā)"的排序，充值付費后就可以得到大量的排名在前????????????????????????

用戶在瀏覽結(jié)果信息需要區(qū)分"廣告"關(guān)鍵詞，否則就容易進?錯結(jié)果。?????

而Chat GPT在產(chǎn)品設(shè)計上，因為是"黑箱測試"。這類廣告的引導(dǎo)一旦植入后，轉(zhuǎn)化率將大大提高，因為用戶沒有其他信息篩選。

但相信官方也會提供接口能力，允許開發(fā)者標注，否則就會大大降低點擊率，會造成ChatGPT的口碑，商業(yè)化收益降低等影響。???????

不過最近有新聞提出，open AI的充值入口已經(jīng)爆滿，大家都在爭先前后的排隊使用，所以到底是面向開發(fā)者收費，還是直接給企業(yè)做投放，商業(yè)模式的策略會影響產(chǎn)品形態(tài)。

???????????若加入有類似排名競價的方式，勢必會對chat GPT的回復(fù)結(jié)果與信息，帶來較大的干擾。若再加上政治等其他影響，勢必可能會影響一些用戶的價值觀。????????????

而這種價值觀的影響，隨著Chat GPT的使用時間越多，粘性越強，會不會造成文化侵入呢？我想結(jié)果是肯定的。

或者數(shù)據(jù)泄漏呢？?

假如有保密人員提問，或者對相關(guān)保密的商業(yè)模式、或者國家安全機密的問題，這類問題是否會被泄漏呢？?????????

就像你在百度或者谷歌的搜索引擎一言一行是否會被監(jiān)控呢？??

所以站在信息安全與數(shù)據(jù)隱患上，或多或少使用國產(chǎn)的ChatGPT類產(chǎn)品會更加安全。你認為呢？??????????????????????????????????

今天的分享就在這兒。?

關(guān)鍵詞：