但這些發(fā)布加劇了人們對(duì)該技術(shù)的擔(dān)憂。谷歌和微軟工具的演示都因產(chǎn)生事實(shí)錯(cuò)誤而受到指責(zé)。與此同時(shí),微軟正試圖控制其 Bing 聊天機(jī)器人,因?yàn)橛脩魣?bào)告了令人不安的反應(yīng),包括對(duì)抗性言論和黑暗幻想。
(資料圖片)
一些企業(yè)鼓勵(lì)員工將 ChatGPT 納入他們的日常工作。但其他人則擔(dān)心風(fēng)險(xiǎn)。處理敏感客戶信息并受到政府監(jiān)管機(jī)構(gòu)密切關(guān)注的銀行業(yè)有額外的動(dòng)力謹(jǐn)慎行事。學(xué)校也在限制 ChatGPT,因?yàn)閾?dān)心它可能被用來(lái)欺騙作業(yè)。紐約市公立學(xué)校在一月份禁止了它。據(jù)統(tǒng)計(jì),有超過(guò) 4% 的員工將敏感的公司數(shù)據(jù)放入大型語(yǔ)言模型中,這引發(fā)了人們的擔(dān)憂,即其普及可能導(dǎo)致保密信息的大量泄露。
ChatGPT 的能力
ChatGPT 是一個(gè)人工智能語(yǔ)言平臺(tái),經(jīng)過(guò)訓(xùn)練后可以進(jìn)行對(duì)話互動(dòng)和執(zhí)行任務(wù)。為了訓(xùn)練像 ChatGPT 這樣的人工智能,大量的數(shù)據(jù)集被輸入到計(jì)算機(jī)算法中。然后對(duì)模型進(jìn)行評(píng)估,以確定模型在查看以前未見(jiàn)過(guò)的數(shù)據(jù)時(shí)做出預(yù)測(cè)的程度。然后,AI 工具進(jìn)行測(cè)試,以確定模型在處理大量以前從未見(jiàn)過(guò)的新數(shù)據(jù)時(shí)是否表現(xiàn)良好。
雖然聊天 GPT 可以提高工作場(chǎng)所流程的效率,但它也給雇主帶來(lái)了法律風(fēng)險(xiǎn)。
鑒于人工智能的訓(xùn)練和學(xué)習(xí)方式,當(dāng)員工使用 ChatGPT 履行工作職責(zé)時(shí),雇主可能會(huì)出現(xiàn)重大風(fēng)險(xiǎn)。當(dāng)員工從 ChatGPT 等來(lái)源獲取與其工作相關(guān)的信息時(shí),準(zhǔn)確性和偏見(jiàn)是值得關(guān)注的問(wèn)題。雇主需要評(píng)估員工使用 ChatGPT 和其他 AI 工具時(shí),可能面臨的法律風(fēng)險(xiǎn)。這個(gè)需要解決工作中的保密和隱私問(wèn)題、偏見(jiàn)和公平、法律合規(guī)性和責(zé)任。
準(zhǔn)確性和對(duì) AI 的依賴
ChatGPT 作為 AI 語(yǔ)言模型提供信息的能力僅與它在訓(xùn)練階段學(xué)到的信息一樣好。盡管 ChatGPT 接受過(guò)大量在線信息的訓(xùn)練,但其知識(shí)庫(kù)仍然存在差距。ChatGPT 的當(dāng)前版本僅在 2021 年之前可用的數(shù)據(jù)集上進(jìn)行訓(xùn)練。此外,該工具提取并不總是準(zhǔn)確的在線數(shù)據(jù)。如果員工依賴 ChatGPT 獲取與工作相關(guān)的信息并且不對(duì)其進(jìn)行事實(shí)檢查,則可能會(huì)出現(xiàn)問(wèn)題和風(fēng)險(xiǎn),具體取決于員工如何使用信息以及他們將其發(fā)送到何處。
員工在向 ChatGPT 等大型語(yǔ)言模型(LLM)提交敏感的業(yè)務(wù)數(shù)據(jù)和受隱私保護(hù)的信息,引發(fā)了雇主對(duì)人工智能(AI)服務(wù)可能會(huì)將數(shù)據(jù)合并到其模型中的擔(dān)憂,并且如果該服務(wù)沒(méi)有適當(dāng)?shù)臄?shù)據(jù)安全性,則可以在以后檢索信息。
在最近的一份報(bào)告中,數(shù)據(jù)安全服務(wù) Cyberhaven 檢測(cè)到并阻止了其客戶公司 4 萬(wàn)員工中的 2.1% 將數(shù)據(jù)輸入 ChatGPT 的請(qǐng)求,因?yàn)榇嬖谛孤稒C(jī)密信息、客戶數(shù)據(jù)、源代碼或受監(jiān)管信息的風(fēng)險(xiǎn)。因此,雇主應(yīng)該制定政策,為員工如何使用 ChatGPT 中與其工作相關(guān)的信息設(shè)置特定的護(hù)欄。
在一個(gè)案例中,一位高管將公司的 2023 年戰(zhàn)略文件剪切并粘貼到 ChatGPT 中,并要求它創(chuàng)建一個(gè) PowerPoint 幻燈片。在另一個(gè)案例中,醫(yī)生輸入了他的病人的姓名和他們的醫(yī)療狀況,并要求 ChatGPT 制作一封給病人保險(xiǎn)公司的信。
" 隨著越來(lái)越多的員工使用 ChatGPT 和其他基于人工智能的服務(wù)作為生產(chǎn)力工具,風(fēng)險(xiǎn)將會(huì)增加。"Cyberhaven 首席執(zhí)行官 Howard Ting 說(shuō)。
" 數(shù)據(jù)從本地遷移到云,下一個(gè)重大轉(zhuǎn)變將是將數(shù)據(jù)遷移到這些生成應(yīng)用程序中," 他說(shuō)。" 結(jié)果如何(還有待觀察)——我認(rèn)為,我們正處于賽前階段 ; 我們甚至還沒(méi)有進(jìn)入第一局。"
隨著 OpenAI 的 ChatGPT 及其基礎(chǔ) AI 模型(Generative Pre-train Transformer 或 GPT-3)以及其他 LLM 的迅速普及,公司和安全專業(yè)人員開(kāi)始擔(dān)心,當(dāng)正確的查詢提示時(shí),作為訓(xùn)練數(shù)據(jù)攝取到模型中的敏感數(shù)據(jù)可能會(huì)重新出現(xiàn)。一些公司正在采取行動(dòng)限制員工在工作中使用 ChatGPT。
沃爾瑪對(duì)其員工提出了關(guān)于生成式人工智能(如 ChatGPT)的明確指示:不要與新興技術(shù)分享有關(guān)沃爾瑪?shù)娜魏涡畔?。在給員工的一份內(nèi)部備忘錄中,該零售商的技術(shù)和軟件工程部門(mén)表示," 在我們注意到對(duì)我們公司構(gòu)成風(fēng)險(xiǎn)的活動(dòng)之后,曾阻止過(guò)使用 ChatGPT。此后,我們花時(shí)間評(píng)估和開(kāi)發(fā)了一套圍繞生成式 AI 工具的使用指南,現(xiàn)在正在開(kāi)放 ChatGPT 供沃爾瑪網(wǎng)絡(luò)使用。"
沃爾瑪發(fā)言人艾琳 · 赫爾貝格(Erin Hulliberger)沒(méi)有回答有關(guān)該公司何時(shí)阻止生成人工智能以及活動(dòng)性質(zhì)的詢問(wèn),她在一份聲明中說(shuō):" 大多數(shù)新技術(shù)都帶來(lái)了新的好處和新的風(fēng)險(xiǎn)。我們?cè)u(píng)估這些新技術(shù)并為我們的員工提供使用指南的情況并不少見(jiàn)。
沃爾瑪發(fā)布的指南中告訴員工,他們應(yīng)該 " 避免在 ChatGPT 中輸入任何敏感,機(jī)密或敏感信息 ",例如財(cái)務(wù)或戰(zhàn)略信息或有關(guān)購(gòu)物者和員工的個(gè)人信息。" 也不應(yīng)在這些工具中輸入有關(guān)沃爾瑪業(yè)務(wù)的任何信息,包括業(yè)務(wù)流程,政策或戰(zhàn)略 "。據(jù)了解,沃爾瑪員工還必須在依賴他們提供的信息之前審查這些工具的輸出。員工不應(yīng)將現(xiàn)有代碼剪切并粘貼到這些工具中,也不應(yīng)使用這些工具創(chuàng)建新代碼。
" 將沃爾瑪信息放入這些工具中可能會(huì)暴露公司的信息,可能會(huì)違反機(jī)密性,并可能顯著影響我們對(duì)任何代碼,產(chǎn)品,信息或內(nèi)容的權(quán)利," 沃爾瑪發(fā)言人說(shuō)。" 每個(gè)員工都有責(zé)任適當(dāng)使用和保護(hù)沃爾瑪數(shù)據(jù)。其次,沃爾瑪全球科技吹捧 ChatGPT" 可以提高效率和創(chuàng)新 ",但它和其他生成式人工智能工具必須 " 適當(dāng)?shù)?" 使用。
除沃爾瑪外,摩根大通(JPMorgan Chase)暫時(shí)禁止其員工使用 ChatGPT,據(jù)知情人士透露,這家美國(guó)最大的銀行已限制其在全球員工中的使用 ChatGPT。該人士表示,做出這一決定不是因?yàn)槟硞€(gè)特定問(wèn)題,而是為了符合對(duì)第三方軟件的限制,主要是因?yàn)楹弦?guī)問(wèn)題。
越來(lái)越多的用戶向 ChatGPT 提交敏感數(shù)據(jù)。隨著越來(lái)越多的軟件公司將他們的應(yīng)用程序連接到 ChatGPT,LLM 收集的信息可能比用戶或他們的公司意識(shí)到的要多得多,這使得雇主將面臨法律風(fēng)險(xiǎn)。
風(fēng)險(xiǎn)不是理論上的。在 2021 年 2 月的一篇論文中,來(lái)自名人錄公司和大學(xué)名單(包括蘋(píng)果、谷歌、哈佛大學(xué)和斯坦福大學(xué))的十幾名研究人員發(fā)現(xiàn),所謂的 " 訓(xùn)練數(shù)據(jù)提取攻擊 " 可以成功恢復(fù)逐字文本序列、個(gè)人身份信息 (PII) 以及來(lái)自 LLM 的訓(xùn)練文檔中的其他信息。
類似 GPT 的 AI 產(chǎn)品將越來(lái)越多
事實(shí)上,這些訓(xùn)練數(shù)據(jù)提取攻擊是機(jī)器學(xué)習(xí)研究人員的主要對(duì)抗性問(wèn)題之一。根據(jù) MITRE 的人工智能系統(tǒng)對(duì)抗性威脅大圖(Atlas)知識(shí)庫(kù),這些攻擊也被稱為 " 通過(guò)機(jī)器學(xué)習(xí)推理滲透 ",可以收集敏感信息或竊取知識(shí)產(chǎn)權(quán)。
它的工作原理是這樣的:通過(guò)以調(diào)用特定項(xiàng)目的方式查詢生成 AI 系統(tǒng),對(duì)手可以觸發(fā)模型調(diào)用特定信息,而不是生成合成數(shù)據(jù)。GPT-3 是 GPT-2 的繼任者,存在許多真實(shí)世界的例子,包括 GitHub 的 Copilot 調(diào)用特定開(kāi)發(fā)人員的用戶名和編碼優(yōu)先級(jí)的實(shí)例。
除了基于 GPT 的產(chǎn)品之外,其他基于 AI 的服務(wù)也引發(fā)了關(guān)于它們是否構(gòu)成風(fēng)險(xiǎn)的問(wèn)題。例如,自動(dòng)轉(zhuǎn)錄服務(wù) Otter.ai 將音頻文件轉(zhuǎn)錄為文本,自動(dòng)識(shí)別說(shuō)話人并允許標(biāo)記重要單詞并突出顯示短語(yǔ)。該公司將這些信息存儲(chǔ)在云中引起了用戶的擔(dān)憂。該公司表示,它已承諾保持用戶數(shù)據(jù)的私密性,并實(shí)施強(qiáng)有力的合規(guī)控制,據(jù) Otter.ai 高級(jí)合規(guī)經(jīng)理 Julie Wu 稱,"Otter 已經(jīng)完成了 SOC2 Type 2 審計(jì)和報(bào)告,我們采取了技術(shù)和組織措施來(lái)保護(hù)個(gè)人數(shù)據(jù),說(shuō)話人識(shí)別是帳戶綁定的。添加說(shuō)話人的姓名將訓(xùn)練 Otter 識(shí)別您記錄或?qū)霂糁械奈磥?lái)對(duì)話的說(shuō)話人,但不允許跨帳戶識(shí)別說(shuō)話人。"
API 加速了 GPT 的使用
ChatGPT 的受歡迎程度讓許多公司感到意外。根據(jù)一年前公布的最新數(shù)據(jù),超過(guò) 300 名開(kāi)發(fā)人員正在使用 GPT-3 為其應(yīng)用程序提供支持。例如,社交媒體公司 Snap 和購(gòu)物平臺(tái) Instacart 和 Shopify 都通過(guò) API 使用 ChatGPT,為其移動(dòng)應(yīng)用程序添加聊天功能。
根據(jù)與公司客戶的對(duì)話訪談,預(yù)計(jì)向生成式 AI 應(yīng)用程序的轉(zhuǎn)變只會(huì)加速,用于從生成備忘錄和演示文稿到分類安全事件以及與患者互動(dòng)的所有事情。
正如目前所看到的,一位企業(yè)雇主說(shuō)," 看看現(xiàn)在,作為權(quán)宜之計(jì),我只是阻止了這個(gè)應(yīng)用程序,但我的董事會(huì)已經(jīng)告訴我,我們不能那樣做。因?yàn)檫@些工具將幫助我們的用戶提高生產(chǎn)力——具有競(jìng)爭(zhēng)優(yōu)勢(shì)——如果我的競(jìng)爭(zhēng)對(duì)手正在使用這些生成式人工智能應(yīng)用程序,而我不允許我的用戶使用它,這將使我們處于劣勢(shì)。"
好消息是,對(duì)員工安全意識(shí)的教育可能會(huì)對(duì)特定公司的數(shù)據(jù)是否泄露產(chǎn)生重大影響,因?yàn)樯贁?shù)員工負(fù)責(zé)大多數(shù)風(fēng)險(xiǎn)請(qǐng)求。不到 1% 的員工負(fù)責(zé) 80% 的向 ChatGPT 發(fā)送敏感數(shù)據(jù)的事件。
" 你知道,有兩種形式的教育:一種是課堂教育,比如當(dāng)你讓員工入職時(shí)。然后是上下文教育,當(dāng)有人實(shí)際上試圖粘貼數(shù)據(jù)時(shí) ",這兩者都很重要,但從實(shí)際效果來(lái)看后者更有效。
此外,OpenAI 和其他公司正在努力限制 LLM 對(duì)個(gè)人信息和敏感數(shù)據(jù)的訪問(wèn):當(dāng)你向 ChatGPT 詢問(wèn)個(gè)人詳細(xì)信息或敏感的公司信息時(shí),ChatGPT 目前會(huì)明確聲明拒絕回答。
例如,當(dāng)被問(wèn)及 " 蘋(píng)果 2023 年的戰(zhàn)略是什么?ChatGPT 回應(yīng)說(shuō):" 作為一個(gè)人工智能語(yǔ)言模型,我無(wú)法訪問(wèn)蘋(píng)果的機(jī)密信息或未來(lái)的計(jì)劃。蘋(píng)果是一家高度保密的公司,他們通常不會(huì)向公眾披露他們的戰(zhàn)略或未來(lái)計(jì)劃,直到他們準(zhǔn)備好發(fā)布它們。"
人工智能固有的偏見(jiàn)
人工智能中還存在固有偏見(jiàn)的問(wèn)題。平等就業(yè)機(jī)會(huì)委員會(huì)專注于這個(gè)問(wèn)題,因?yàn)樵摍C(jī)構(gòu)與其執(zhí)行的就業(yè)歧視法有關(guān)。此外,美國(guó)的州和地方立法者正在提議——有些已經(jīng)通過(guò)了——限制雇主使用人工智能的法律。
人工智能提供的信息必然取決于訓(xùn)練它所依據(jù)的信息,以及那些決定人工智能接收哪些信息的人。這種偏見(jiàn)可能表現(xiàn)在 ChatGPT 提供的信息類型中,以回答與其 " 對(duì)話 " 中提出的問(wèn)題。
此外,如果在就業(yè)決策咨詢場(chǎng)景使用 ChatGPT,這可能會(huì)導(dǎo)致歧視索賠。根據(jù)州和地方法律,在某些就業(yè)決定和 / 或?qū)徲?jì)中使用人工智能需要事先通知,然后才能在某些就業(yè)環(huán)境中使用人工智能,這也可能造成合規(guī)問(wèn)題。
由于人工智能存在偏見(jiàn)的風(fēng)險(xiǎn),雇主應(yīng)在其政策中包括一項(xiàng)一般性禁止在未經(jīng)法律部門(mén)批準(zhǔn)的情況下在就業(yè)決策中使用人工智能。
泄露隱私和違反保密條款
機(jī)密性和數(shù)據(jù)隱私是雇主在考慮員工如何在工作中使用 ChatGPT 時(shí)考慮的其他問(wèn)題。員工在與 ChatGPT 進(jìn)行 " 對(duì)話 " 時(shí)可能會(huì)共享專有、機(jī)密或商業(yè)機(jī)密信息。盡管 ChatGPT 表示它不會(huì)保留對(duì)話中提供的信息,但它確實(shí)從每次對(duì)話中進(jìn)行 " 學(xué)習(xí) "。當(dāng)然,用戶正在通過(guò)互聯(lián)網(wǎng)在與 ChatGPT 的對(duì)話中輸入信息,并且無(wú)法保證此類通信的安全性。
如果員工向 ChatGPT 透露敏感信息,雇主的機(jī)密信息可能會(huì)受到影響。謹(jǐn)慎的雇主將在員工保密協(xié)議和政策中禁止員工在人工智能聊天機(jī)器人或語(yǔ)言模型(如 ChatGPT)中引用或輸入機(jī)密、專有或商業(yè)秘密信息。
一個(gè)很好的論點(diǎn)是,在線提供給聊天機(jī)器人的信息不一定是商業(yè)秘密的披露。另一方面,由于 ChatGPT 接受了大量在線信息的訓(xùn)練,員工可能會(huì)從該工具接收和使用商標(biāo)、版權(quán)或其他個(gè)人或?qū)嶓w的知識(shí)產(chǎn)權(quán)的信息,從而給雇主帶來(lái)法律風(fēng)險(xiǎn)。
雇主應(yīng)關(guān)注的其他問(wèn)題
除了這些法律問(wèn)題之外,雇主還應(yīng)考慮他們?cè)诙啻蟪潭壬显试S員工在工作中使用 ChatGPT。雇主正處于考慮是否以及如何在其工作場(chǎng)所接受或限制使用 ChatGPT 的重要十字路口。
雇主應(yīng)該權(quán)衡員工使用 ChatGPT 執(zhí)行諸如撰寫(xiě)常規(guī)信件和電子郵件、生成簡(jiǎn)報(bào)和創(chuàng)建演示文稿等任務(wù)可以實(shí)現(xiàn)的效率和經(jīng)濟(jì)性,以及員工自己執(zhí)行此類任務(wù)的潛在發(fā)展機(jī)會(huì)損失。
ChatGPT 不會(huì)消失,新的和改進(jìn)的版本應(yīng)該在一年內(nèi)推出。雇主最終需要解決其在工作場(chǎng)所的使用問(wèn)題,因?yàn)橄乱淮蔚鷷?huì)更好。對(duì)于 ChatGPT 可能帶來(lái)的所有風(fēng)險(xiǎn),雇主也可以利用其優(yōu)勢(shì)。討論才剛剛開(kāi)始。雇主可能會(huì)對(duì)此進(jìn)行一些學(xué)習(xí)和 beta 測(cè)試,ChatGPT 也是如此。
-
1重新啟用U盤(pán)的技巧有什么?U盤(pán)提速的技巧有哪些?
-
2如何安全的使用U盤(pán)?U盤(pán)日常使用的技巧有哪些?
-
3曲面顯示器怎么選擇?曲面顯示器和平面顯示器的區(qū)別有什么?
-
4安卓設(shè)備型號(hào)和名稱可以改嗎?安卓手機(jī)如何修改手機(jī)IMEI串號(hào)?
-
5地址和域名是什么關(guān)系?互聯(lián)網(wǎng)域名是商標(biāo)的一個(gè)組成部分對(duì)錯(cuò)?
-
6Linux獲取文件名稱和文件路徑并寫(xiě)入txt?linux下exports文件是什么?
-
7如何登錄蘋(píng)果手機(jī)郵箱?蘋(píng)果電子郵件怎么啟用?
-
8輸入法僅桌面怎么卸載?手機(jī)輸入法記憶怎么刪除?
-
9加密的zlp文件怎么用手機(jī)打開(kāi)?c的快捷鍵是什么?
-
10手機(jī)充電器怎么測(cè)好壞?手機(jī)充電器電容測(cè)量好壞?
-
天天通訊!仿真熊貓玩偶熱銷(xiāo),一只價(jià)格上千,你會(huì)買(mǎi)嗎?
-
二手車(chē)新政實(shí)施三個(gè)月:夫妻檔加速公司化,買(mǎi)車(chē)更安心
-
中國(guó)品牌乘用車(chē)市場(chǎng)份額升至49.9%
-
載客12人的面包車(chē)撞山多人被困,消防火速救援
-
每日信息:實(shí)現(xiàn)“噸半糧” 科技有良方
-
汽車(chē)“價(jià)格戰(zhàn)”白熱化!消費(fèi)者為何“看的多、買(mǎi)的少”?-全球今日訊
-
全球快訊:【短期融資券新發(fā)公告】23太倉(cāng)港SCP002今日發(fā)布發(fā)行公告
-
【全球報(bào)資訊】司機(jī)打瞌睡 大貨車(chē)翻了
-
環(huán)球熱點(diǎn)!地方國(guó)企入選創(chuàng)建世界一流示范企業(yè)
-
安陽(yáng)市2023/03/16周四小雨最高溫10度 環(huán)球視訊
-
北京今天最高氣溫25℃,早上能見(jiàn)度不佳,出行請(qǐng)注意安全
-
南京交警多措并舉壓降農(nóng)村交通事故
-
處處“零碳”-天天微動(dòng)態(tài)
-
堅(jiān)持項(xiàng)目人才政策產(chǎn)業(yè)“一盤(pán)棋” 湖南加速推進(jìn)關(guān)鍵核心技術(shù)攻關(guān) 消息
-
市民垂釣取“餌”竟取出手榴彈|全球快資訊
-
每日?qǐng)?bào)道:石家莊市委市政府致函經(jīng)濟(jì)日?qǐng)?bào)編輯部 奮力書(shū)寫(xiě)“趕考”新答卷
-
今天,這里正式揭牌!
-
云南麗江通報(bào)旅游團(tuán)導(dǎo)游威脅游客:屬實(shí),嚴(yán)肅處理
-
PK賽取勝,王楚欽/孫穎莎獲直通世乒賽混雙資格
-
熱訊:仿真熊貓玩偶熱銷(xiāo),一只價(jià)格上千,你會(huì)買(mǎi)嗎?
-
速訊:全力保障今年春耕農(nóng)資供應(yīng)
-
我國(guó)網(wǎng)絡(luò)視聽(tīng)用戶達(dá)10.40億 你每天刷多久短視頻_世界微動(dòng)態(tài)
-
北京一酒店稱,成年子女不能與父母住同一個(gè)標(biāo)間,到底該怎么住?:焦點(diǎn)速遞
-
環(huán)球消息!北京通州城管開(kāi)展文明游園宣傳執(zhí)法行動(dòng)
-
環(huán)球速看:?軍隊(duì)選拔軍官和文職人員體檢全面實(shí)施新標(biāo)準(zhǔn)
-
美國(guó)科羅拉多州調(diào)查:四分之一青少年能在24小時(shí)內(nèi)獲取槍支-微頭條
-
韓國(guó)在野黨要求對(duì)韓日領(lǐng)導(dǎo)人會(huì)談發(fā)起調(diào)查
-
券商降薪!有券商人均年薪降至46萬(wàn)元 新視野
-
南京南站站內(nèi)暫停中轉(zhuǎn)換乘 具體什么情況
-
鉑金回收價(jià)格(2023年3月29日)
-
前媒體人失業(yè)送外賣(mài):過(guò)了35歲無(wú)人問(wèn)津,感慨就業(yè)黃金期短
-
這種傳染病流行強(qiáng)度將回歸,家長(zhǎng)們做好準(zhǔn)備了嗎?
-
觀山湖消防開(kāi)展校園“戶外課堂”:環(huán)球聚看點(diǎn)
-
第八批國(guó)家藥品集采產(chǎn)生擬中選結(jié)果:平均降價(jià)56%
-
踏青賞花 國(guó)潮游園——豐臺(tái)區(qū)啟動(dòng)2023文化旅游踏青季系列活動(dòng)
-
北京朝陽(yáng)區(qū)高碑店鄉(xiāng)綜合行政執(zhí)法隊(duì)開(kāi)展生活垃圾分類知識(shí)宣教活動(dòng)|全球關(guān)注
-
多方就萬(wàn)畝治沙林“斷水”協(xié)商 當(dāng)事人妻子:沒(méi)談妥,礦場(chǎng)稱“能力有限” 天天要聞
-
易中天的新職務(wù):廈門(mén)大學(xué)人文與藝術(shù)高等研究院院長(zhǎng)|頭條焦點(diǎn)
-
2月份湖南空氣質(zhì)量排名出爐 湘西州蟬聯(lián)榜首,岳陽(yáng)市改善明顯|天天百事通
-
世界焦點(diǎn)!前澇后旱可能性較大—— 今年湖南或仍有旱情
-
貴陽(yáng)觀山湖:紫荊花開(kāi)引游人
-
日本東電公司:福島第一核電站1號(hào)機(jī)組反應(yīng)堆壓力容器的底座已熔化|世界熱點(diǎn)評(píng)
-
資訊:支現(xiàn)偉與市氣象局領(lǐng)導(dǎo)座談交流
-
當(dāng)前通訊!揭秘成都網(wǎng)紅紫藤花瀑:“芳齡”三四十,傳說(shuō)是茶鋪老板隨手栽下
-
今日快訊:通州馬駒橋西后街村變形記:從“租客村”到歷史文化街區(qū)
-
視頻|貨車(chē)高速側(cè)翻 乘客未系安全帶受傷 各位乘客 系與不系安全帶差別很大!
-
“贏在南京”海外人才創(chuàng)業(yè)大賽亞洲賽區(qū)(東京)決賽落幕
-
星際來(lái)客“奧陌陌”可能是一顆彗星
-
抓緊!經(jīng)開(kāi)區(qū)超市券、汽車(chē)消費(fèi)補(bǔ)貼、汽車(chē)“團(tuán)購(gòu)”進(jìn)入領(lǐng)取倒計(jì)時(shí)
-
研究顯示睡眠不足易長(zhǎng)啤酒肚,男性尤為明顯-快資訊
-
全球通訊!注意!貴陽(yáng)多條公交線路有調(diào)整
-
2023年3月16日星期四阿里天氣信息報(bào)告
-
環(huán)球速訊:海淀區(qū)西部地區(qū)將建立十五年制現(xiàn)代化特殊教育學(xué)校
-
天天熱推薦:酒店回應(yīng)成年子女不能與父母住標(biāo)間,稱會(huì)超限,被查出來(lái)要罰款的
-
世衛(wèi)組織宣布阿塞拜疆和塔吉克斯坦獲得消除瘧疾認(rèn)證-天天快播
-
海淀媽媽掏心窩分享:小學(xué)各年級(jí)“語(yǔ)數(shù)”重難點(diǎn)突破……|世界今熱點(diǎn)
-
1至2月貴州省國(guó)資委監(jiān)管企業(yè)經(jīng)濟(jì)運(yùn)行穩(wěn)中有進(jìn)
-
即將綻放!一起來(lái)這里邂逅浪漫櫻花道~
-
最新血脂管理指南發(fā)布!血脂檢測(cè)列入小學(xué)常規(guī)檢查項(xiàng)目
-
天道演員表(《天道》演員表:王志文飾丁元英、石爻飾歐陽(yáng)雪、左小青飾)-環(huán)球時(shí)快訊
-
看熱訊:視頻|十一學(xué)校豐臺(tái)小學(xué)迎來(lái)春耕節(jié)
-
天天快訊:長(zhǎng)沙城區(qū)小學(xué)網(wǎng)上報(bào)名,只需上傳這些資料!
-
一份漂亮的“成績(jī)單”!2022年貴州省中醫(yī)藥工作在三方面取得突出成效 環(huán)球熱資訊
-
世界視點(diǎn)!唱響主旋律 奮進(jìn)春天里——黔東南州加快推進(jìn)重大項(xiàng)目建設(shè)
-
全球時(shí)訊:中西部省會(huì)城市常住人口陸續(xù)公布:合肥、西安、南昌增量均超10萬(wàn)
-
天天熱消息:貴州稅務(wù): 畫(huà)好“同心圓” 構(gòu)建稅費(fèi)共治新格局
-
第十六屆“殘疾人事業(yè)好新聞獎(jiǎng)”在京頒獎(jiǎng)
-
厚衣服別收!四項(xiàng)全能冷空氣清明節(jié)前登場(chǎng)
-
全球球精選!湄潭稅務(wù):出口退稅“快速落袋”助力企業(yè)“破浪出海”
-
農(nóng)夫山泉港股漲0.98% 去年收入增12%毛利率降_天天精選
-
“一家三口住一個(gè)標(biāo)間被拒”沖上熱搜!網(wǎng)友吵起來(lái)了……
-
收藏!北京22家醫(yī)院線上掛號(hào)匯總——_世界視點(diǎn)
-
天天最新:關(guān)系你我生活 這些新規(guī)4月起施行→
-
環(huán)球信息:預(yù)計(jì)到2025年,環(huán)京周邊縣區(qū)將建成210個(gè)蔬菜生產(chǎn)基地
-
視點(diǎn)!倉(cāng)管員崗位職責(zé)和要求_倉(cāng)管員崗位職責(zé)
-
電影《長(zhǎng)沙夜生活》預(yù)告上新,周冬雨、王櫟鑫出場(chǎng)即分手?
-
美國(guó)在國(guó)內(nèi)國(guó)際上實(shí)施任意拘押的事實(shí)真相 當(dāng)前視訊
-
環(huán)球今日訊!小直播撬動(dòng)大農(nóng)業(yè) 平谷菜農(nóng)變主播
-
澳大利亞一公司用猛犸象基因培育細(xì)胞制成肉丸
-
環(huán)球熱資訊!北京發(fā)布森林防火宣傳片
-
全球快消息!墨西哥一移民中心發(fā)生火災(zāi),至少39人死亡
-
北京朝外街道天福園醫(yī)養(yǎng)殘服務(wù)綜合體啟動(dòng)運(yùn)營(yíng)-環(huán)球觀察
-
貴陽(yáng)產(chǎn)控集團(tuán)首次成功發(fā)行5億元小公募公司債券:消息
-
行業(yè)速遞|貴州陽(yáng)光產(chǎn)權(quán)交易所:“靶向”服務(wù)盤(pán)活國(guó)有資產(chǎn) 焦點(diǎn)
-
觀熱點(diǎn):美國(guó)一市長(zhǎng)拒絕接收“毒火車(chē)”事故污水
-
兩部門(mén)要求保障出生醫(yī)學(xué)證明新版證件和舊版證件順利交替
-
當(dāng)前報(bào)道:成績(jī)標(biāo)記為“-2”!陜西多名公考生違規(guī)違紀(jì)被處理
-
南京棲霞區(qū)國(guó)土空間總規(guī)公示:協(xié)同鎮(zhèn)江句容推進(jìn)都市圈同城化-全球快報(bào)
-
流感高發(fā),湖南疾控提醒:出現(xiàn)嚴(yán)重并發(fā)癥,及時(shí)就醫(yī)_全球快消息
-
第八批國(guó)家藥品集采產(chǎn)生擬中選結(jié)果:平均降價(jià)56%
-
當(dāng)前速看:hp打印機(jī)墨盒怎么加粉_hp打印機(jī)加墨粉步驟
-
天天簡(jiǎn)訊:一圖讀懂|北京市屬、區(qū)屬公墓地址和聯(lián)系方式匯總
-
國(guó)家疾控局發(fā)布今年2月法定傳染病疫情概況:感染人數(shù)最多的為流感
-
深圳市都市醫(yī)藥股份公司廣告違法 被寶安區(qū)處罰|視焦點(diǎn)訊
-
新版《江蘇省公墓管理辦法》4月1日起施行 世界消息
-
第八批國(guó)家藥品集采產(chǎn)生擬中選結(jié)果:平均降價(jià)56%_全球?qū)崟r(shí)
-
天天微動(dòng)態(tài)丨雜交稻種太空行
-
拉爾夫勞倫朝陽(yáng)某分公司被罰 銷(xiāo)售不合格針織衫
-
經(jīng)濟(jì)新觀察|一方屏幕 云上共富——我省直播電商行業(yè)加速成勢(shì)
-
中國(guó)長(zhǎng)城龍虎榜:機(jī)構(gòu)凈賣(mài)出4.02億元-天天訊息