国产精品啪丨免费看国产曰批40分钟丨亚洲成人日韩丨欧美一区二区三区成人丨特级a欧美做爰片第一次丨少妇爽到呻吟的视频丨无码中出人妻中文字幕av丨少妇乱淫aaa高清视频真爽丨日本色网址丨日本免费一区二区三区视频观看丨国产视频在线一区二区丨久久综合国产乱子伦精品免费丨亚洲精品综合网在线8050影院丨国产精品被窝福利一区丨最新国产中文字幕丨欧美无乱码久久久免费午夜一区丨伊人久久九丨亚洲裸男自慰gv网站丨欧美刺激性大交亚洲丶日韩丨亚洲精品免费在线观看丨欧美女人天堂丨91精品久久久久久久久不口人丨丝袜国偷自产中文字幕丨人妻无码不卡中文字幕系列丨国语高潮无遮挡无码免费看

中國的物聯(lián)網(wǎng)安全:技術(shù)發(fā)展與政策建議

來源:未知 日期:2016-10-14 點擊:

  物聯(lián)網(wǎng)是信息技術(shù)發(fā)展到一定階段的產(chǎn)物,被稱為信息技術(shù)的第三次浪潮。物聯(lián)網(wǎng)無論在技術(shù)方面還是在產(chǎn)業(yè)方面都得到空前發(fā)展。相比全球情況,物聯(lián)網(wǎng)在國內(nèi)的發(fā)展異常迅速,在一些關(guān)鍵技術(shù)方面,中國位居世界前列。但是,如果物聯(lián)網(wǎng)系統(tǒng)的信息安全問題解決不好,將影響到物聯(lián)網(wǎng)產(chǎn)業(yè)的健康和可持續(xù)發(fā)展。本文首先分析物聯(lián)網(wǎng)安全研究的背景和意義,介紹國內(nèi)外在物聯(lián)網(wǎng)方面的發(fā)展情況和重視程度,闡述國內(nèi)的技術(shù)短板、國家對物聯(lián)網(wǎng)技術(shù)和產(chǎn)業(yè)的支持等情況,然后分析物聯(lián)網(wǎng)安全問題和技術(shù)挑戰(zhàn),從技術(shù)方面提出一些新觀點,最后提出一些技術(shù)發(fā)展思路和政策建議,希望能為物聯(lián)網(wǎng)產(chǎn)業(yè)和技術(shù)的發(fā)展提供一些有用的參考。
  
  武傳坤,中國科學院信息工程研究所研究員,北京匡恩網(wǎng)絡科技有限責任公司智能安全工業(yè)研究院副院長。研究方向為網(wǎng)絡空間安全。主要著作有《物聯(lián)網(wǎng)安全基礎(chǔ)》《物聯(lián)網(wǎng)技術(shù)概論》《物聯(lián)網(wǎng)行業(yè)應用基礎(chǔ)》等。
  
  物聯(lián)網(wǎng)是建立在互聯(lián)網(wǎng)基礎(chǔ)上的信息技術(shù)發(fā)展的一個新階段,它可以通過各種終端設(shè)備獲取對物理世界的感知信息,通過多種網(wǎng)絡將海量數(shù)據(jù)傳輸?shù)教幚碇行模缓筮M行智能處理,使人們可以在任何時候、任何地點,獲取任何自己權(quán)限范圍內(nèi)終端設(shè)備的有關(guān)數(shù)據(jù)和狀態(tài),實現(xiàn)虛擬世界和物理世界的有機結(jié)合。物聯(lián)網(wǎng)技術(shù)被認為是信息技術(shù)發(fā)展的第三次浪潮,將成為未來社會經(jīng)濟發(fā)展、社會進步和科技創(chuàng)新等最重要的基礎(chǔ)設(shè)施,給中國在這一新領(lǐng)域的發(fā)展創(chuàng)造了機會,同時也帶來很大的挑戰(zhàn)。
  
  在信息技術(shù)第一次浪潮來臨時,即電腦時代,計算機技術(shù)實質(zhì)性地解放了人們的腦力勞動,那時國內(nèi)的技術(shù)水平遠遠落后于歐美發(fā)達國家。在信息技術(shù)的第二次浪潮來臨時,即互聯(lián)網(wǎng)時代,互聯(lián)網(wǎng)技術(shù)可以實現(xiàn)數(shù)據(jù)和信息的異地共享,那時國內(nèi)的技術(shù)水平只能緊跟歐美發(fā)達國家。在今天的物聯(lián)網(wǎng)時代,我國與歐美發(fā)達國家相比,雖然整體上還有差距,但差距已遠小于之前的信息技術(shù)革命時代。總體上說,各個國家都站在與歐美發(fā)達國家基本相同的起點,因此只有奮起向前,才有機會位居世界前列,在國際科學技術(shù)和產(chǎn)業(yè)領(lǐng)域爭得更大的話語權(quán)和市場份額。其實,任何一項技術(shù)的應用都存在同樣的問題,無論超前發(fā)展,還是跟隨性發(fā)展,都有優(yōu)點和缺點。超前發(fā)展的缺點是,沒有別人的經(jīng)驗可以借鑒,在發(fā)展過程中難免會遇到技術(shù)難題,走很多彎路,浪費很多人力物力;但優(yōu)點是,在發(fā)展過程中會促進科學技術(shù)的進步,優(yōu)先占領(lǐng)產(chǎn)業(yè)市場(可能還包括國際市場),積累更多創(chuàng)新性自主知識產(chǎn)權(quán),在國際舞臺有更多的話語權(quán)。跟隨性發(fā)展的缺點在于核心知識產(chǎn)權(quán)是別人的,主要市場被別人占據(jù),在國際舞臺上很難爭得話語權(quán);但優(yōu)點是少走彎路,減少浪費。中國根據(jù)自己的情況,決定走超前發(fā)展的道路。
  
  我們看到,從“十二五”規(guī)劃到“十三五”規(guī)劃,國家制定了許多物聯(lián)網(wǎng)發(fā)展的優(yōu)惠政策,也拿出大量專用資金,支持物聯(lián)網(wǎng)技術(shù)和產(chǎn)業(yè)的發(fā)展。雖然某些方面的發(fā)展小于預期,但必須看到,我們在物聯(lián)網(wǎng)相關(guān)技術(shù)方面的發(fā)展是突出的,物聯(lián)網(wǎng)示范產(chǎn)業(yè)基地的建設(shè)更是突飛猛進。
  
  雖然物聯(lián)網(wǎng)產(chǎn)業(yè)和技術(shù)都在快速發(fā)展,但物聯(lián)網(wǎng)的安全問題卻日趨明顯。由于物聯(lián)網(wǎng)技術(shù)將虛擬世界與物理世界結(jié)合在一起,通過虛擬世界的數(shù)字信息就可以控制物理世界的關(guān)鍵設(shè)備甚至基礎(chǔ)設(shè)施,因此物聯(lián)網(wǎng)的安全問題所造成的危害比信息系統(tǒng)安全問題造成的危害更大。這里我們通過一個典型的物聯(lián)網(wǎng)入侵攻擊案例來說明物聯(lián)網(wǎng)安全問題的重要性。2015年12月23日下午,烏克蘭首都基輔部分地區(qū)和烏克蘭西部的140萬名居民突然發(fā)現(xiàn)家中停電。造成這次停電的原因是電網(wǎng)遭到了黑客攻擊。黑客首先操作惡意軟件將電力公司的主控電腦與變電站斷開,隨后又在系統(tǒng)中植入病毒,讓電腦全體癱瘓。與此同時,黑客還對電力公司的電話通訊進行了干擾,導致受到停電影響的居民無法和電力公司進行聯(lián)系。
  
  烏克蘭電網(wǎng)事件似乎離我們很遙遠,其實通過病毒或黑客入侵造成工業(yè)設(shè)施損壞的事件在我們身邊也頻繁發(fā)生,而且近幾年呈增長趨勢。一些攻擊手段表現(xiàn)出專業(yè)化團隊作戰(zhàn)的特征,各個國家也都提高了對網(wǎng)絡的安全防范意識,特別是在今天的物聯(lián)網(wǎng)時代,網(wǎng)絡入侵攻擊所造成的后果,遠不是竊取信息本身那么簡單,而是造成物理設(shè)施的破壞。面對物聯(lián)網(wǎng)市場飛速發(fā)展和物聯(lián)網(wǎng)安全問題日益嚴重的矛盾,物聯(lián)網(wǎng)安全技術(shù)的發(fā)展又將如何進行?相關(guān)政策的制定對物聯(lián)網(wǎng)安全技術(shù)的發(fā)展將起到至關(guān)重要的引導作用。
  
  物聯(lián)網(wǎng)的概念與內(nèi)涵
  
  物聯(lián)網(wǎng)概念的提出有多種來源,但最早以物聯(lián)網(wǎng)為題的年度報告應該是國際電信聯(lián)盟(ITU)發(fā)布年度報告《ITU互聯(lián)網(wǎng)報告2005:物聯(lián)網(wǎng)》。物聯(lián)網(wǎng)的概念提出之后,很多學術(shù)研究也很快在該領(lǐng)域開展,僅在2008年,就出現(xiàn)了以物聯(lián)網(wǎng)為專題的國際學術(shù)會議、專著和系列論文等。2009年,時任總理溫家寶視察無錫時提出感知中國概念,將國內(nèi)對物聯(lián)網(wǎng)的重視程度推向一個高潮。
  
  從技術(shù)上,物聯(lián)網(wǎng)就是通過傳統(tǒng)網(wǎng)絡平臺,主要是互聯(lián)網(wǎng),將物理世界的傳感器等設(shè)備連接起來,其目標是使任何人在任何時間和任何地點都有能力跟任何物理設(shè)備進行通信。換句話說,物聯(lián)網(wǎng)是傳統(tǒng)互聯(lián)網(wǎng)與物理設(shè)施的有機結(jié)合,是虛擬世界向現(xiàn)實物理世界的一種延伸。這種延伸改變了虛擬世界以信息為目標的保護手段,因此稱為第三次信息技術(shù)浪潮。
  
  物聯(lián)網(wǎng)沒有具體定義,經(jīng)過幾年的討論與論證,現(xiàn)在無論學術(shù)界還是產(chǎn)業(yè)以及政府管理部門,都基本接受如下的描述:物聯(lián)網(wǎng)的基本架構(gòu)包括三個邏輯層,即感知層、網(wǎng)絡傳輸層、處理應用層。感知層由傳感器和RFID等設(shè)備組成,包括傳感器節(jié)點和數(shù)據(jù)匯聚節(jié)點(也稱感知層網(wǎng)關(guān)節(jié)點),以及在感知層進行短距離數(shù)據(jù)傳輸?shù)臒o線網(wǎng)絡,其任務是采集周圍物理環(huán)境的信息,包括自身身份信息(對RFID標簽來說),并將感知數(shù)據(jù)進行上傳;網(wǎng)絡傳輸層的任務是將這些感知數(shù)據(jù)通過傳統(tǒng)的網(wǎng)絡基礎(chǔ)設(shè)施傳輸?shù)竭h程的處理中心;處理應用層則對收到的海量數(shù)據(jù)進行智能處理,提供給用戶使用。事實上,物聯(lián)網(wǎng)的傳輸層就是我們傳統(tǒng)的網(wǎng)絡,包括互聯(lián)網(wǎng)和移動網(wǎng)絡,而移動網(wǎng)絡的最終連接形式還是通過互聯(lián)網(wǎng),因此傳輸層是以互聯(lián)網(wǎng)為核心的通信網(wǎng)絡。處理應用層實際是數(shù)據(jù)處理中心,當數(shù)據(jù)量很大時,能夠支撐大數(shù)據(jù)處理的(物聯(lián)網(wǎng)中強調(diào)智能處理)一般是云計算平臺,因此物聯(lián)網(wǎng)的處理應用層一般指云平臺,包括公有云和私有云。物聯(lián)網(wǎng)的網(wǎng)絡傳輸層和處理應用層都屬于傳統(tǒng)信息系統(tǒng)中的組成部分,所不同的是規(guī)模上較傳統(tǒng)信息系統(tǒng)有更高的要求,例如傳輸更可靠、處理更智能等。而物聯(lián)網(wǎng)的感知層才是區(qū)別傳統(tǒng)信息系統(tǒng)與物聯(lián)網(wǎng)系統(tǒng)的根本要素,也是將虛擬世界與現(xiàn)實物理世界相結(jié)合的關(guān)鍵部分。后面我們會談到,在物聯(lián)網(wǎng)安全問題上,感知層的安全問題是整個物聯(lián)網(wǎng)系統(tǒng)安全的技術(shù)瓶頸。
  
  為了更好地理解什么是物聯(lián)網(wǎng),我們看一下一種典型的物聯(lián)網(wǎng)行業(yè)應用:智能家居系統(tǒng),如圖1所示。
  
  在智能家居系統(tǒng)中,有很多的傳感器,用于感知室內(nèi)溫濕度、光照、噪音、有害氣體(如燃氣檢測)、設(shè)備狀態(tài)(如冰箱內(nèi)溫度)、電子開關(guān)(如家用電器開關(guān)、照明燈開關(guān)、空調(diào)開關(guān)等)、視頻監(jiān)控等,這些設(shè)備將感知數(shù)據(jù)(包括電子開關(guān)的狀態(tài)信息)通過一個與互聯(lián)網(wǎng)或移動網(wǎng)絡連接的家庭網(wǎng)關(guān)(即數(shù)據(jù)匯聚節(jié)點)上傳到運營商的一個數(shù)據(jù)平臺,運營商的數(shù)據(jù)平臺對這些數(shù)據(jù)進行處理,將處理結(jié)果發(fā)給用戶終端(如智能手機),這就完成了數(shù)據(jù)上傳和應用過程。另一方面,用戶可以對傳感器進行控制,例如從用戶終端發(fā)送指令,該指令通過運營商的數(shù)據(jù)平臺和互聯(lián)網(wǎng)傳給用戶的家庭網(wǎng)關(guān),然后家庭網(wǎng)關(guān)將該指令發(fā)送給具體的傳感器設(shè)備,該指令可以控制傳感器設(shè)備,也可以控制開關(guān)設(shè)備。這就是一個典型的物聯(lián)網(wǎng)行業(yè)應用系統(tǒng)。其他物聯(lián)網(wǎng)行業(yè)還有很多類似系統(tǒng),包括智能電網(wǎng)、智能管網(wǎng)、智慧醫(yī)療、智能交通、智能農(nóng)業(yè)、智能工業(yè)等等,這些不同應用領(lǐng)域的物聯(lián)網(wǎng)系統(tǒng)在架構(gòu)上有很大的相似之處。
  

 中國的物聯(lián)網(wǎng)安全:技術(shù)發(fā)展與政策建議
 
  
  中外物聯(lián)網(wǎng)發(fā)展政策比較
  
  隨著信息技術(shù)日新月異的發(fā)展,特別是信息采集、傳輸技術(shù)及高性能計算機的迅速發(fā)展和互聯(lián)網(wǎng)與移動通信網(wǎng)的廣泛應用,大規(guī)模發(fā)展物聯(lián)網(wǎng)及相關(guān)產(chǎn)業(yè)的時機日趨成熟,歐美等發(fā)達國家將物聯(lián)網(wǎng)視為未來發(fā)展的重要領(lǐng)域。2009年以來,美歐日等發(fā)達國家紛紛提出物聯(lián)網(wǎng)發(fā)展的戰(zhàn)略、規(guī)劃、核心技術(shù)及產(chǎn)業(yè)重點,促進物聯(lián)網(wǎng)產(chǎn)業(yè)迅速發(fā)展,以期在新一輪的信息化浪潮中占得先機。
  
  2008年,美國提出“智慧地球”的概念,奧巴馬表示要將其作為今后的重要發(fā)展方向。從本質(zhì)上看,“智慧地球”的概念與物聯(lián)網(wǎng)的概念在內(nèi)涵上是一致的。2015年,美國政府宣布投入1.6億美元推動智慧城市計劃,將物聯(lián)網(wǎng)應用試驗平臺的建設(shè)作為首要任務。
  
  歐盟早在2006年就成立工作組,專門進行RFID技術(shù)研究,并于2008年發(fā)布《2020年的物聯(lián)網(wǎng)——未來路線》。2009年6月,歐盟委員會發(fā)布《物聯(lián)網(wǎng)——歐洲行動計劃》,提出了包括監(jiān)管、隱私保護、芯片、基礎(chǔ)設(shè)施保護、標準制定、技術(shù)研發(fā)等在內(nèi)的14項框架內(nèi)容,對物聯(lián)網(wǎng)未來發(fā)展以及重點研究領(lǐng)域給出了明確的路線圖。2015年,歐盟成立了橫跨歐盟及產(chǎn)業(yè)界的物聯(lián)網(wǎng)創(chuàng)新聯(lián)盟(AIOTI),投入5000萬歐元,通過咨詢委員會和推進委員會統(tǒng)領(lǐng)新的“四橫七縱”體系架構(gòu),將包括原有IERC、地平線2020在內(nèi)的11個工作組納入旗下,統(tǒng)籌原本散落在不同部門和組織的能力資源,協(xié)同推進歐盟物聯(lián)網(wǎng)整體跨越式創(chuàng)新發(fā)展。歐盟計劃2016年投入超過1億歐元支持物聯(lián)網(wǎng)大范圍示范和未來物聯(lián)網(wǎng)重點領(lǐng)域研究。
  
  日本是較早啟動物聯(lián)網(wǎng)應用的國家之一。從20世紀90年代中期以來,日本政府相繼制定了多項國家信息技術(shù)發(fā)展戰(zhàn)略,有序地開展了大規(guī)模的信息基礎(chǔ)設(shè)施建設(shè)。2001年1月,日本開始實施“e-Japan”戰(zhàn)略,以寬帶化為核心開展基礎(chǔ)設(shè)施建設(shè),包括盡快普及高速通信網(wǎng)絡,制定有關(guān)電子商務的法律法規(guī),實現(xiàn)電子政務平臺,為日本下一個十年的經(jīng)濟振興提供高素質(zhì)的人才等措施。2004年5月,日本政府在完成“e-Japan”戰(zhàn)略目標的基礎(chǔ)上,由日本信息通信產(chǎn)業(yè)的主管機關(guān)總務省(MIC)向日本經(jīng)濟財政咨詢會議正式提出了2006至2010年間的IT發(fā)展任務——以發(fā)展Ubiquitous社會為目標的“u-Japan”戰(zhàn)略,即到2010年,將日本建設(shè)成一個“隨時、隨地、任何物體、任何人均可連接的泛在網(wǎng)絡社會”,該戰(zhàn)略的理念是以人為本,實現(xiàn)所有人與人、物與物、人與物之間的連接。因此,“u-Japan”的目標實際就是物聯(lián)網(wǎng)技術(shù)的廣泛應用。2009年7月,日本IT戰(zhàn)略本部發(fā)布了新一代的信息化戰(zhàn)略——“i-Japan”戰(zhàn)略,其目標是到2015年實現(xiàn)以國民為中心的數(shù)字化社會,參與解決全球性的重大問題,提升國家的競爭力,確保日本在全球的領(lǐng)先地位。因此在不長的時間內(nèi),日本實現(xiàn)了從“e-Japan”到“u-Japan”,又到“i-Japan”戰(zhàn)略的轉(zhuǎn)變,致力于為日本構(gòu)建一個個性化的物聯(lián)網(wǎng)智能服務體系。
  
  韓國早在2004年就提出了“u-Korea”戰(zhàn)略。2009年10月,韓國政府又頒布了《物聯(lián)網(wǎng)基礎(chǔ)設(shè)施構(gòu)建基本規(guī)劃》,將物聯(lián)網(wǎng)市場確定為新增長動力,確定了構(gòu)建物聯(lián)網(wǎng)基礎(chǔ)設(shè)施、發(fā)展物聯(lián)網(wǎng)服務、研發(fā)物聯(lián)網(wǎng)技術(shù)、營造物聯(lián)網(wǎng)擴散環(huán)境等4大領(lǐng)域、12項詳細課題,并提出到2012年實現(xiàn)“通過構(gòu)建世界最先進的物聯(lián)網(wǎng)基礎(chǔ)設(shè)施,打造未來廣播通信融合領(lǐng)域超一流ICT(信息通信技術(shù))強國”的目標。2015年起,韓國未來科學創(chuàng)造部和產(chǎn)業(yè)通商資源部將投資370億韓元用于物聯(lián)網(wǎng)核心技術(shù)以及MEMS傳感器芯片、寬帶傳感設(shè)備的研發(fā),還有123億韓元的投資來自韓國的私營企業(yè)。
  
  我國在物聯(lián)網(wǎng)技術(shù)方面發(fā)展相對較晚,但近年來的發(fā)展速度驚人。早在2009年,國務院發(fā)展研究中心就聯(lián)合中科院組成研究團隊,撰寫中國物聯(lián)網(wǎng)產(chǎn)業(yè)發(fā)展研究報告。經(jīng)過近半年的調(diào)研分析,該團隊認為在技術(shù)方面,中國已經(jīng)基本具備全面發(fā)展物聯(lián)網(wǎng)這一新興產(chǎn)業(yè)的技術(shù)基礎(chǔ)。在資金方面,中國近年來GDP的連續(xù)高增長也為發(fā)展物聯(lián)網(wǎng)產(chǎn)業(yè)奠定了良好的經(jīng)濟基礎(chǔ)。在人才方面,國家也需要制定政策,鼓勵物聯(lián)網(wǎng)方面人才的培養(yǎng)。到目前為止,全國各地的物聯(lián)網(wǎng)示范項目發(fā)展迅速,物聯(lián)網(wǎng)企業(yè)也快速增加,物聯(lián)網(wǎng)相關(guān)技術(shù)、專利、標準和產(chǎn)品等都在快速增長。伴隨著產(chǎn)業(yè)規(guī)模的快速擴大,我國物聯(lián)網(wǎng)產(chǎn)業(yè)體系日趨完善,集聚發(fā)展態(tài)勢明顯。目前我國已經(jīng)初步形成了覆蓋芯片和元器件、設(shè)備、軟件、系統(tǒng)集成、電信運營、物聯(lián)網(wǎng)服務在內(nèi)的較為完整的產(chǎn)業(yè)鏈,形成了長三角、珠三角、環(huán)渤海和中西部四大物聯(lián)網(wǎng)產(chǎn)業(yè)聚集發(fā)展區(qū),在無錫、重慶、杭州建立了三個國家級物聯(lián)網(wǎng)產(chǎn)業(yè)示范基地。國家對智慧城市的建設(shè)政策能更好地運用物聯(lián)網(wǎng)、云計算、大數(shù)據(jù)、空間地理信息集成等新一代信息技術(shù),促進城市規(guī)劃、建設(shè)、管理和服務智慧化的新理念和新模式。目前,我國一半以上城市在建的“智慧城市”規(guī)劃,其主要應用項目依次為公共安全、交通、醫(yī)療、社區(qū)、環(huán)保、地下管網(wǎng)監(jiān)測、水務、教育等,這些應用均以自動感知為基礎(chǔ)、數(shù)據(jù)采集為手段、智能控制為核心、精細管理和服務提升為目的,實現(xiàn)了物聯(lián)網(wǎng)技術(shù)的綜合集成應用。
  
  我國在物聯(lián)網(wǎng)技術(shù)方面也在不斷進步和創(chuàng)新。例如,中國信息通信研究院牽頭制定了國際標準ITU-TY.2068《物聯(lián)網(wǎng)功能框架與能力》,該標準于2015年3月正式發(fā)布。該標準主要明確了物聯(lián)網(wǎng)功能架構(gòu)和聯(lián)網(wǎng)能力等內(nèi)容。中國信息通信研究院與歐盟還共同發(fā)布了《中歐物聯(lián)網(wǎng)架構(gòu)比較研究報告》《中歐物聯(lián)網(wǎng)標識白皮書》,正在推進《中歐物聯(lián)網(wǎng)語義白皮書》的合作編制和物聯(lián)網(wǎng)架構(gòu)新趨勢的合作研究。無錫物聯(lián)網(wǎng)產(chǎn)業(yè)研究院和工信部電子工業(yè)標準化研究院等聯(lián)合推進完成ISO/IEC30141立項,即物聯(lián)網(wǎng)“六域”模型。該模型從業(yè)務功能的角度對物聯(lián)網(wǎng)系統(tǒng)進行分解,提出了一致性的系統(tǒng)分解模式和開放性的標準設(shè)計框架。華為等眾多企業(yè)已推出以智能手機為核心的智能家居解決方案,華為公司也在積極推動窄帶物聯(lián)網(wǎng)NB-IOT在3GPP的標準化研制工作。2015年7月,華為和中國聯(lián)通合作開展了全球首個LTE-M蜂窩物聯(lián)網(wǎng)CIoT(Cellular Internet of Things)的技術(shù)演示。
  
  但是,應該承認,在整體技術(shù)水平方面,特別是在某些核心技術(shù)方面,我們同歐美發(fā)達國家的差距還很明顯,這主要體現(xiàn)在高性能處理器、高精度傳感器和國際標準的話語權(quán)等方面。對這些技術(shù)的不足,可以通過研發(fā)和采購相結(jié)合的方式來實現(xiàn),例如對那些精度要求不是很高的應用場景,可以使用國產(chǎn)傳感器,以降低建設(shè)費用;對那些需要高精度傳感器的應用環(huán)境,可以采購國外高靈敏度傳感器,以滿足應用需求。
  
  物聯(lián)網(wǎng)安全的研究背景及意義
  
  我國政府一直高度重視信息化建設(shè),早在國家“十一五”規(guī)劃中,就已經(jīng)對寬帶無線通信網(wǎng)絡、傳感網(wǎng)、編碼等問題作了相關(guān)部署,這些都與物聯(lián)網(wǎng)相關(guān),是組成物聯(lián)網(wǎng)系統(tǒng)的重要元素。2009年8月,時任國務院總理溫家寶在無錫視察時指出,要盡快突破核心技術(shù),將物聯(lián)網(wǎng)產(chǎn)業(yè)發(fā)展上升到戰(zhàn)略性新興產(chǎn)業(yè)的高度。在隨后幾個月的時間內(nèi),國家有關(guān)部門對物聯(lián)網(wǎng)的推動達到一個新高度,可以說是遍地開花。但相關(guān)部門很快就注意到,物聯(lián)網(wǎng)關(guān)鍵技術(shù),尤其是安全技術(shù),是物聯(lián)網(wǎng)產(chǎn)業(yè)健康發(fā)展的瓶頸。工業(yè)和信息化部發(fā)布的《物聯(lián)網(wǎng)“十二五”發(fā)展規(guī)劃》指出,要大力攻克核心技術(shù),加快構(gòu)建標準體系,加強信息安全保障。特別需要說明的是,《規(guī)劃》將信息安全保障作為一個專門任務予以重視,其內(nèi)容包括加強物聯(lián)網(wǎng)安全技術(shù)研發(fā),建立并完善物聯(lián)網(wǎng)安全保障體系,加強網(wǎng)絡基礎(chǔ)設(shè)施安全防護建設(shè)。國家“十三五”規(guī)劃指出,要實施網(wǎng)絡強國戰(zhàn)略,加快構(gòu)建高速、移動、安全、泛在的新一代信息基礎(chǔ)設(shè)施。支持智慧城市的建設(shè),提高網(wǎng)絡安全等方面風險防控能力。
  
  在物聯(lián)網(wǎng)系統(tǒng)建設(shè)的初期,由于規(guī)模有限,各個物聯(lián)網(wǎng)示范基地之間相對獨立,還不能構(gòu)成真正意義的互聯(lián)互通,因此面臨的信息安全威脅也小。隨著物聯(lián)網(wǎng)系統(tǒng)數(shù)量的增多和規(guī)模的增大,特別是隨著這些物聯(lián)網(wǎng)應用系統(tǒng)的互聯(lián)互通,以及服務于這些系統(tǒng)的數(shù)據(jù)處理平臺的集中管理,物聯(lián)網(wǎng)安全問題將逐漸顯現(xiàn),會以雪崩效應影響到物聯(lián)網(wǎng)行業(yè),到時候再“亡羊補牢”將為時已晚。
  
  相比互聯(lián)網(wǎng)來說,物聯(lián)網(wǎng)有什么特點呢?首先,互聯(lián)網(wǎng)是一個網(wǎng)絡系統(tǒng),而物聯(lián)網(wǎng)是一個建立在互聯(lián)網(wǎng)基礎(chǔ)設(shè)施之上的龐大的應用系統(tǒng);其次,互聯(lián)網(wǎng)服務的目標是數(shù)字信息,而物聯(lián)網(wǎng)服務的目標是包括信息和物理設(shè)施在內(nèi)的行業(yè)應用;最關(guān)鍵的,同時也是傳統(tǒng)信息系統(tǒng)的信息安全技術(shù)在物聯(lián)網(wǎng)系統(tǒng)中不能發(fā)揮作用的特點是,物聯(lián)網(wǎng)系統(tǒng)中有大量資源受限,甚至對實時性要求很高的終端感知節(jié)點,特別在工業(yè)物聯(lián)網(wǎng)系統(tǒng)中,這些節(jié)點對數(shù)據(jù)傳輸?shù)膶崟r性要求很高,而傳統(tǒng)信息系統(tǒng)的安全保護沒有考慮這些因素,因此傳統(tǒng)的信息安全保護技術(shù)不再適合物聯(lián)網(wǎng)系統(tǒng)。
  
  物聯(lián)網(wǎng)系統(tǒng)的安全技術(shù)挑戰(zhàn)
  
  值得注意的是,雖然國內(nèi)在物聯(lián)網(wǎng)示范應用系統(tǒng)建設(shè)方面蓬勃發(fā)展,但存在的信息安全問題(或物聯(lián)網(wǎng)安全問題)也很明顯。當這些系統(tǒng)規(guī)模有限,相互之間相對獨立時,其安全問題尚不明顯,但隨著規(guī)模的增大,其信息安全問題將會突顯。比如,智能家居是一種典型的物聯(lián)網(wǎng)行業(yè)應用,當一個居戶安裝智能家居系統(tǒng)時,即使沒有采取任何專門針對物聯(lián)網(wǎng)系統(tǒng)的信息安全保護,只采取傳統(tǒng)的網(wǎng)絡安全和數(shù)據(jù)庫安全保護,也顯示不出信息安全的威脅,因為周圍鄰居不太可能發(fā)起攻擊,網(wǎng)絡黑客通過后臺服務器潛入到家庭網(wǎng)關(guān)的情況暫不考慮。但是,當智能家居很普遍時,鄰居之間的傳感器信號會相互影響,一家的傳感器信號可被鄰居家接收,鄰居家的信號也被自己接收,都是很正常的事,就像我們在家搜索WIFI信號時能找到許多WIFI站點一樣。當接收到的是傳感器的數(shù)據(jù)時,可以通過傳感節(jié)點標識進行區(qū)分,但如果想獲取這些信息,則是很容易的事。更可怕的是對控制指令類數(shù)據(jù)的非法篡改和偽造。
  
  信息網(wǎng)絡發(fā)展了這么多年,無論基礎(chǔ)設(shè)施還是信息安全保護,都有很多成熟的技術(shù)。那么物聯(lián)網(wǎng)系統(tǒng)的安全技術(shù)挑戰(zhàn)在哪里呢?我們可以通過物聯(lián)網(wǎng)的基本架構(gòu)進行分析。


  中國的物聯(lián)網(wǎng)安全:技術(shù)發(fā)展與政策建議
  從圖2可以看出,物聯(lián)網(wǎng)的網(wǎng)絡傳輸層和處理應用層都是基于傳統(tǒng)的信息系統(tǒng)建立的,因此傳統(tǒng)的信息安全保護技術(shù)基本可以使用。作為新型數(shù)據(jù)處理的云計算平臺,其架構(gòu)和特征與傳統(tǒng)的計算機系統(tǒng)有很大區(qū)別,因此需要一些有針對性的信息安全保護技術(shù),包括系統(tǒng)安全技術(shù)、數(shù)據(jù)存儲安全技術(shù)、數(shù)據(jù)處理安全技術(shù)、用戶管理安全技術(shù)和新型訪問控制技術(shù)等。對于物聯(lián)網(wǎng)的感知層,當感知節(jié)點的處理能力接近傳統(tǒng)的信息系統(tǒng)時,如智能移動終端,則可以使用傳統(tǒng)的信息安全保護技術(shù),包括操作系統(tǒng)安全技術(shù)、入侵檢測技術(shù)、訪問控制技術(shù)等。但對普通的傳感器以及RFID等設(shè)備,目前還缺乏合適的信息安全保護機制。雖然密碼學家們已經(jīng)設(shè)計出輕量級密碼算法了,但實際使用時不僅僅是一個算法的問題,還需要管理密鑰(密鑰的建立、密鑰的更新)、身份鑒別(確定通信的對方身份是真實的)、數(shù)據(jù)完整性保護(確保數(shù)據(jù)沒有被修改,特別針對惡意修改的保護)、數(shù)據(jù)機密性(確保數(shù)據(jù)內(nèi)容不被竊聽者獲取)和數(shù)據(jù)的新鮮性(用于檢測攻擊者的數(shù)據(jù)重放攻擊,特別對控制指令數(shù)據(jù)的重放攻擊)等技術(shù)。因此,從物聯(lián)網(wǎng)安全技術(shù)的挑戰(zhàn),也是目前技術(shù)的瓶頸,在物聯(lián)網(wǎng)系統(tǒng)的“最后一公里”,即從終端無線感知節(jié)點到接入網(wǎng)絡的物聯(lián)網(wǎng)網(wǎng)關(guān)節(jié)點之間的通信安全問題。如果解決了這個問題,則從整體上解決物聯(lián)網(wǎng)系統(tǒng)的安全問題,提供物聯(lián)網(wǎng)行業(yè)應用中對數(shù)據(jù)端到端的安全保護,在理論上都更加容易,而在實踐中,只是資金與時間的問題。
  
  物聯(lián)網(wǎng)安全技術(shù)目前還沒有統(tǒng)一的國際標準,國家標準也正在制定中,主要原因是物聯(lián)網(wǎng)是個特別大的系統(tǒng),包括的行業(yè)非常多,因此在信息安全保護方面制定統(tǒng)一的標準有一定難度。其實,物聯(lián)網(wǎng)安全問題主要是物聯(lián)網(wǎng)感知層的安全問題,因為在傳輸層和處理應用層,可以采用傳統(tǒng)信息系統(tǒng)的信息安全保護技術(shù),而感知層的設(shè)備種類繁多,性能差異大,從高性能的視頻監(jiān)控設(shè)備,到無人值守的傳感器模塊,在信息安全保護技術(shù)方面都有著很大的區(qū)別。最具有技術(shù)挑戰(zhàn)的,是資源受限設(shè)備的信息安全保護,例如小型傳感器和RFID標簽等。
  
  如果說在傳感器等設(shè)備方面,我們落后的技術(shù)可以通過采購國外技術(shù)和設(shè)備來彌補的話,那么在物聯(lián)網(wǎng)安全方面,特別是物聯(lián)網(wǎng)感知層的信息安全保護方面,很難通過直接購買國外技術(shù)改進,因為物聯(lián)網(wǎng)感知層的安全技術(shù)一般與硬件產(chǎn)品融為一體,購買國外的安全技術(shù)就等于購買國外的產(chǎn)品。而且安全技術(shù)不僅僅限于產(chǎn)品本身,而是要滲入數(shù)據(jù)處理中心,因為信息安全是一個系統(tǒng),而不是一個獨立的模塊。因此,無論國外在物聯(lián)網(wǎng)感知層方面有什么信息安全保護技術(shù),我們都需要研發(fā)自己的技術(shù)并應用于自己的產(chǎn)品,這樣才能實現(xiàn)“可控性”,這也是信息安全體系的重要指標。
  
  綜上所述,物聯(lián)網(wǎng)安全技術(shù)的挑戰(zhàn)重點在于對感知層資源受限設(shè)備的輕量級安全保護,包括輕量級安全算法和輕量級安全協(xié)議。輕量級安全算法具有通用性,而輕量級安全協(xié)議只能做到在小范圍內(nèi)具有一定的通用性。
  
  工業(yè)物聯(lián)網(wǎng)系統(tǒng)的安全技術(shù)挑戰(zhàn)與防護措施
  
  簡單地說,工業(yè)物聯(lián)網(wǎng)系統(tǒng)就是物聯(lián)網(wǎng)技術(shù)與工業(yè)生產(chǎn)系統(tǒng)和監(jiān)管系統(tǒng)的結(jié)合。不同于傳統(tǒng)的物聯(lián)網(wǎng)系統(tǒng),工業(yè)物聯(lián)網(wǎng)系統(tǒng)對信息傳輸?shù)膶崟r性要求很嚴格,有時甚至很苛刻,因為在工業(yè)生產(chǎn)過程中,對信息反饋的實時性要求很高,即使在工業(yè)監(jiān)管系統(tǒng)中,對數(shù)據(jù)的實時性要求也比很多其他物聯(lián)網(wǎng)行業(yè)的要求高。因此,工業(yè)物聯(lián)網(wǎng)系統(tǒng)所面臨的安全技術(shù)挑戰(zhàn)更為嚴峻。
  
  2015年5月,經(jīng)國務院總理李克強簽批,國務院發(fā)布了《中國制造2025》戰(zhàn)略文件,這是一項全面推進實施制造強國的戰(zhàn)略文件,是中國實施制造強國戰(zhàn)略第一個十年的行動綱領(lǐng)。要想實現(xiàn)這一目標,必須推進信息化與工業(yè)化的深度融合,這實際就是工業(yè)物聯(lián)網(wǎng)技術(shù)。因此,在今后的發(fā)展中,作為物聯(lián)網(wǎng)技術(shù)在工業(yè)領(lǐng)域之應用的工業(yè)物聯(lián)網(wǎng)技術(shù),將成為物聯(lián)網(wǎng)技術(shù)發(fā)展的一項有其獨有特色的技術(shù)。同時,工業(yè)物聯(lián)網(wǎng)系統(tǒng)的安全技術(shù)也將成為物聯(lián)網(wǎng)安全領(lǐng)域的具有重要特色的新技術(shù)。
  
  傳統(tǒng)工業(yè)生產(chǎn)系統(tǒng)的信息安全防護手段是網(wǎng)絡隔離,即將生產(chǎn)控制系統(tǒng)與其他信息系統(tǒng)的網(wǎng)絡進行物理隔離。隨著信息管理系統(tǒng)對數(shù)據(jù)業(yè)務需求的提高,要求生產(chǎn)過程的數(shù)據(jù)能實時上報,于是不得不將生產(chǎn)控制系統(tǒng)與生產(chǎn)管理系統(tǒng)的網(wǎng)絡進行連接,但通常使用網(wǎng)閘技術(shù)進行防護,使數(shù)據(jù)只能進行單向傳輸,因此生產(chǎn)管理系統(tǒng)即使遭受入侵攻擊,也不能對生產(chǎn)控制系統(tǒng)造成嚴重影響。隨著生產(chǎn)自動化和信息化的深度融合,這種信息隔離不能提供更高效的生產(chǎn),特別對一些定制化產(chǎn)品的生產(chǎn)更是如此,因此從生產(chǎn)控制系統(tǒng)到生產(chǎn)管理系統(tǒng),需要雙向的信息交互。國家發(fā)布的《中國制造2025》戰(zhàn)略,將進一步推動信息化和工業(yè)化的深度融合,這也給工業(yè)控制系統(tǒng)的安全防護技術(shù)帶來新的安全挑戰(zhàn),特別是對工業(yè)物聯(lián)網(wǎng)系統(tǒng)的安全防護技術(shù)帶來挑戰(zhàn)。
  
  工業(yè)物聯(lián)網(wǎng)系統(tǒng)與許多其他物聯(lián)網(wǎng)行業(yè)的區(qū)別是,在工業(yè)物聯(lián)網(wǎng)系統(tǒng)中,一般會涉及到許多工業(yè)生產(chǎn)設(shè)備,這些設(shè)備系統(tǒng)響應的實時性要求高,無論感知數(shù)據(jù)的傳輸,還是控制指令的發(fā)放,都需要在很短的時間內(nèi)完成,這就給安全防護技術(shù)的實施帶來了挑戰(zhàn)。另外,控制系統(tǒng)中的主機設(shè)備系統(tǒng)老舊,更新困難,在生產(chǎn)過程中很難對一個控制系統(tǒng)進行維護和軟件更新,包括對操作系統(tǒng)和安全防護軟件的更新,以及硬件設(shè)備的添加,因此許多防護措施只能通過旁路方式進行,這種方式只能對一些非正常數(shù)據(jù)提供報警,不能對攻擊行為實施隔離等措施。
  
  但是,針對物聯(lián)網(wǎng)系統(tǒng)的入侵攻擊,特別是工業(yè)物聯(lián)網(wǎng)系統(tǒng)所面對的入侵攻擊,與傳統(tǒng)信息系統(tǒng)的入侵攻擊有著明顯的區(qū)別。傳統(tǒng)信息系統(tǒng)的入侵攻擊目標就是被入侵的主機系統(tǒng),其表現(xiàn)行為從早期的破壞主機系統(tǒng),到后來的獲取主機系統(tǒng)信息,逐步到最后將主機系統(tǒng)變?yōu)楣羝渌鳈C系統(tǒng)的僵尸節(jié)點。但工業(yè)物聯(lián)網(wǎng)系統(tǒng)的入侵攻擊目標一般不是被入侵的主機系統(tǒng),因為無論破壞主機系統(tǒng),還是從主機系統(tǒng)獲取信息,都達不到攻擊工業(yè)設(shè)施的目的。攻擊者一般會通過入侵的主機系統(tǒng)非法控制該主機系統(tǒng)所能控制的受控設(shè)備,這些受控設(shè)備有些可能根本不具有智能判斷能力,如PLC設(shè)備。
  
  基于這種特點,對待入侵攻擊的防護措施也應該進行調(diào)整。傳統(tǒng)信息系統(tǒng)的防護手段是邊界防護(防火墻)和入侵檢測系統(tǒng),一些異常數(shù)據(jù)在邊界防護過程中就能被拒之門外,個別通過邊界防護系統(tǒng)的惡意軟件和遠程控制行為,當在主機系統(tǒng)中進行不正常的操作時,入侵檢測系統(tǒng)一般能識別并進行制止,當然這一過程有時需要人的參與才能作出正確判決。工業(yè)物聯(lián)網(wǎng)系統(tǒng)中的主機也有類似的安全防護,但對工業(yè)物聯(lián)網(wǎng)系統(tǒng)中的主機來說,邊界防護系統(tǒng)由于不能及時更新,基于系統(tǒng)漏洞的惡意軟件和遠程入侵很容易無障礙越過邊界防護;對于一些新型的入侵方式,過時的入侵檢測系統(tǒng)也基本不能識別,甚至有些入侵可以擁有比入侵檢測系統(tǒng)更高的權(quán)限。
  
  我們知道,對未知病毒的防護是困難的,原因是知己不知彼。而病毒攻擊系統(tǒng)之所以能成功,是因為病毒設(shè)計者在設(shè)計時知己知彼。能否將這種不對稱的狀態(tài)扭轉(zhuǎn)過來呢?我們認為對工業(yè)物聯(lián)網(wǎng)系統(tǒng)來說是可能的。針對工業(yè)物聯(lián)網(wǎng)系統(tǒng)的特點,我們提出一種新的安全防護架構(gòu),即入侵容忍系統(tǒng)。入侵容忍系統(tǒng)不是一個主機,而是由主機和被控制單元構(gòu)成的一個工業(yè)物聯(lián)網(wǎng)系統(tǒng),其基本原理是讓入侵者也處于知己不知彼的狀態(tài)。該系統(tǒng)的特點是,如果某一個主機遭受入侵攻擊,無論該入侵攻擊是一個惡意軟件還是非法遠程控制,都不能對該主機所控制的受控設(shè)備造成異常。這種入侵容忍系統(tǒng)是針對工業(yè)物聯(lián)網(wǎng)系統(tǒng)而專門設(shè)計的,不適合對傳統(tǒng)信息系統(tǒng)的安全保護。同時,目前傳統(tǒng)信息系統(tǒng)的安全保護都不具有入侵容忍性。因此,要想對工業(yè)物聯(lián)網(wǎng)系統(tǒng),包括其他一些物聯(lián)網(wǎng)系統(tǒng),提供自主可控的安全防護,需要大力發(fā)展入侵容忍技術(shù)。
  
  物聯(lián)網(wǎng)感知層的輕量級加密認證技術(shù)
  
  隨著便攜式電子設(shè)備的普及和RFID、無線傳感器網(wǎng)絡等技術(shù)的發(fā)展,越來越多的應用需要解決相應的安全問題。然而,相比于傳統(tǒng)的臺式機和高性能計算機,這些設(shè)備的資源環(huán)境通常有限,比如,計算能力較弱、計算可使用的存儲較少、能耗有限等等,導致傳統(tǒng)密碼算法無法很好地適用于這種環(huán)境,這就使得受限環(huán)境中密碼算法的研究成為一個迫切需要解決的熱點問題。適宜資源受限環(huán)境使用的密碼算法被稱為輕量級密碼算法。
  
  輕量級密碼算法與經(jīng)典密碼算法相互影響,互相促進。經(jīng)典密碼算法為輕量級密碼算法的設(shè)計與安全性分析提供理論支撐和技術(shù)指導;另一方面,輕量級密碼之“輕量級”的特點將使得一些安全性分析能夠更加深入、全面地展開,在這個過程中,可能會衍生出新的問題,從而進一步帶動和促進密碼算法安全性分析的進展。
  
  源于應用的推動,近幾年輕量級密碼的研究非常熱門。2015年,盧森堡大學組織了全球輕量級密碼算法性能競賽FELICS,公布了滿足參賽資格的18個密碼算法的綜合性能排名。這種全球性的競賽會大大推動輕量級密碼算法的研究熱情,許多國際標準算法也是通過類似的全球性競賽產(chǎn)生的。當然,很多輕量級密碼算法還缺乏全面、深入的安全性分析,也需要經(jīng)歷時間的考驗,例如Katan/Ktantan密碼算法在發(fā)表后不到2年的時間內(nèi)就被破譯。另外也有一些輕量級密碼算法,其整體結(jié)構(gòu)和算法模塊的設(shè)計還有進一步輕量化的余地。
  
  除了密碼算法需要輕量化外,身份認證技術(shù)更需要輕量化,因為后者關(guān)系到通信過程,其消耗的資源(主要是功耗)遠超過計算過程所消耗的資源。在RFID、無線傳感器網(wǎng)絡等應用環(huán)境中,節(jié)點資源(包括存儲容量、計算能力、通信帶寬和傳輸距離等)受到比傳統(tǒng)網(wǎng)絡更加嚴格的限制,資源的嚴重受限使得傳統(tǒng)的計算、存儲和通信開銷較大的身份認證技術(shù)無法應用,因此輕量級身份認證技術(shù)成為該領(lǐng)域研究的熱點。除此之外,輕量級密鑰管理方案也是保證物聯(lián)網(wǎng)系統(tǒng)安全不可或缺的關(guān)鍵技術(shù)。應該說,輕量級安全保護體系才是解決物聯(lián)網(wǎng)感知層安全問題的整體方案。
  
  對物聯(lián)網(wǎng)安全技術(shù)發(fā)展的政策建議
  
  近年來,國家在物聯(lián)網(wǎng)安全方面給予了很多政策支持和一定的資金支持,例如在“十二五”期間,科技部設(shè)立了國家863項目“物聯(lián)網(wǎng)安全感知關(guān)鍵技術(shù)及仿真驗證平臺”,在“十三五”的規(guī)劃中,又設(shè)立了工控安全專項,這些都說明國家對物聯(lián)網(wǎng)安全領(lǐng)域的重視和支持。但是,物聯(lián)網(wǎng)系統(tǒng)建設(shè)中對信息安全的防護投入?yún)s遠遠不夠。有關(guān)分析表明,我國在信息安全領(lǐng)域的投資占整個IT投資比例不足1%,和美國(3.6%)及日本(6%)等成熟市場差距依然明顯。對信息安全防護意識的程度、對信息安全防護體系的檢查以及對信息安全問題所造成的損失的正確評估和責任追溯,是決定信息安全投入的主要原因。
  
  考慮到物聯(lián)網(wǎng)安全問題關(guān)系到行業(yè)應用的安危,甚至在一定程度上會關(guān)系到國家的安全,國家應該提前進行部署,而不能等到亡羊補牢。因此,物聯(lián)網(wǎng)安全方面的基礎(chǔ)研究應該由國家設(shè)立資金予以支持,并在研究成果產(chǎn)業(yè)化后進一步給予一定補助,這樣會提高面向產(chǎn)業(yè)應用研究的動力。
  
  目前有些項目指南過于強調(diào)技術(shù)細節(jié),目標也太具體,并且不允許失敗。這種管理方式看上去效果明顯,但實際上成功和失敗沒有本質(zhì)區(qū)別,許多形式上的完成沒有多少實質(zhì)性進展,更不要說創(chuàng)新。在某些情況下,以項目形式的支持可能不如以團隊形式的支持更為有效。對某些項目,可以選取1~2家在業(yè)界明顯具有領(lǐng)先水平的團隊進行資助,研究目標小而精,并且以國際影響和產(chǎn)業(yè)化程度為考核指標,強化權(quán)利和義務的對等。這些考核指標不以結(jié)題匯報為依據(jù),更應關(guān)注其他證據(jù),包括同行專家的評議、經(jīng)濟和社會影響。對那些項目完成突出的團隊,給予嘉獎;對那些沒有實際解決問題的團隊,降低以后項目的競爭優(yōu)勢。這種管理方式可能會逐步形成綜合實力強的團隊,而那些在某些點上競爭實力強的小團隊,也要使其有生存和發(fā)展空間。在這種模式下,團隊人數(shù)將不占優(yōu)勢,因為雖然大團隊的整體競爭力變強,但其所消耗資源的增加將會是團隊的劣勢,因此會逐漸形成人均競爭力和創(chuàng)造力強的團隊,這才是科研激勵的目標。
  
  物聯(lián)網(wǎng)是一種新型產(chǎn)業(yè)方向,是信息技術(shù)發(fā)展的一個新階段。物聯(lián)網(wǎng)安全問題還沒有在物聯(lián)網(wǎng)行業(yè)應用中得到廣泛關(guān)注,甚至還沒有引起社會的足夠重視。目前的矛盾是,行業(yè)界認為物聯(lián)網(wǎng)安全問題沒有這么嚴重,而學術(shù)界認為物聯(lián)網(wǎng)安全方面的研究不能產(chǎn)生創(chuàng)新性理論成果。這種情況導致從事信息安全研究的學者不愿意研究物聯(lián)網(wǎng)安全問題,而從事物聯(lián)網(wǎng)產(chǎn)業(yè)建設(shè)的團隊又很少有信息安全領(lǐng)域的專家,這種矛盾導致了物聯(lián)網(wǎng)安全需求仍然停留在口號上。如何鼓勵從事信息安全研究的科研人員投入到物聯(lián)網(wǎng)安全方面的研究,推動國家物聯(lián)網(wǎng)產(chǎn)業(yè)的信息安全建設(shè),保障物聯(lián)網(wǎng)產(chǎn)業(yè)的健康發(fā)展,是一個值得思考的問題。市場引導人們的行為,政策引導市場的走向,因此制定一個合適的政策可以更好地引導物聯(lián)網(wǎng)行業(yè)應用與信息安全科學研究的結(jié)合,提高物聯(lián)網(wǎng)系統(tǒng)的安全保護。



主頁 > 新聞中心 > 戰(zhàn)略性新興產(chǎn)業(yè)研究 >

中國的物聯(lián)網(wǎng)安全:技術(shù)發(fā)展與政策建議

2016-10-14 來源:未知 點擊:

  物聯(lián)網(wǎng)是信息技術(shù)發(fā)展到一定階段的產(chǎn)物,被稱為信息技術(shù)的第三次浪潮。物聯(lián)網(wǎng)無論在技術(shù)方面還是在產(chǎn)業(yè)方面都得到空前發(fā)展。相比全球情況,物聯(lián)網(wǎng)在國內(nèi)的發(fā)展異常迅速,在一些關(guān)鍵技術(shù)方面,中國位居世界前列。但是,如果物聯(lián)網(wǎng)系統(tǒng)的信息安全問題解決不好,將影響到物聯(lián)網(wǎng)產(chǎn)業(yè)的健康和可持續(xù)發(fā)展。本文首先分析物聯(lián)網(wǎng)安全研究的背景和意義,介紹國內(nèi)外在物聯(lián)網(wǎng)方面的發(fā)展情況和重視程度,闡述國內(nèi)的技術(shù)短板、國家對物聯(lián)網(wǎng)技術(shù)和產(chǎn)業(yè)的支持等情況,然后分析物聯(lián)網(wǎng)安全問題和技術(shù)挑戰(zhàn),從技術(shù)方面提出一些新觀點,最后提出一些技術(shù)發(fā)展思路和政策建議,希望能為物聯(lián)網(wǎng)產(chǎn)業(yè)和技術(shù)的發(fā)展提供一些有用的參考。
  
  武傳坤,中國科學院信息工程研究所研究員,北京匡恩網(wǎng)絡科技有限責任公司智能安全工業(yè)研究院副院長。研究方向為網(wǎng)絡空間安全。主要著作有《物聯(lián)網(wǎng)安全基礎(chǔ)》《物聯(lián)網(wǎng)技術(shù)概論》《物聯(lián)網(wǎng)行業(yè)應用基礎(chǔ)》等。
  
  物聯(lián)網(wǎng)是建立在互聯(lián)網(wǎng)基礎(chǔ)上的信息技術(shù)發(fā)展的一個新階段,它可以通過各種終端設(shè)備獲取對物理世界的感知信息,通過多種網(wǎng)絡將海量數(shù)據(jù)傳輸?shù)教幚碇行模缓筮M行智能處理,使人們可以在任何時候、任何地點,獲取任何自己權(quán)限范圍內(nèi)終端設(shè)備的有關(guān)數(shù)據(jù)和狀態(tài),實現(xiàn)虛擬世界和物理世界的有機結(jié)合。物聯(lián)網(wǎng)技術(shù)被認為是信息技術(shù)發(fā)展的第三次浪潮,將成為未來社會經(jīng)濟發(fā)展、社會進步和科技創(chuàng)新等最重要的基礎(chǔ)設(shè)施,給中國在這一新領(lǐng)域的發(fā)展創(chuàng)造了機會,同時也帶來很大的挑戰(zhàn)。
  
  在信息技術(shù)第一次浪潮來臨時,即電腦時代,計算機技術(shù)實質(zhì)性地解放了人們的腦力勞動,那時國內(nèi)的技術(shù)水平遠遠落后于歐美發(fā)達國家。在信息技術(shù)的第二次浪潮來臨時,即互聯(lián)網(wǎng)時代,互聯(lián)網(wǎng)技術(shù)可以實現(xiàn)數(shù)據(jù)和信息的異地共享,那時國內(nèi)的技術(shù)水平只能緊跟歐美發(fā)達國家。在今天的物聯(lián)網(wǎng)時代,我國與歐美發(fā)達國家相比,雖然整體上還有差距,但差距已遠小于之前的信息技術(shù)革命時代。總體上說,各個國家都站在與歐美發(fā)達國家基本相同的起點,因此只有奮起向前,才有機會位居世界前列,在國際科學技術(shù)和產(chǎn)業(yè)領(lǐng)域爭得更大的話語權(quán)和市場份額。其實,任何一項技術(shù)的應用都存在同樣的問題,無論超前發(fā)展,還是跟隨性發(fā)展,都有優(yōu)點和缺點。超前發(fā)展的缺點是,沒有別人的經(jīng)驗可以借鑒,在發(fā)展過程中難免會遇到技術(shù)難題,走很多彎路,浪費很多人力物力;但優(yōu)點是,在發(fā)展過程中會促進科學技術(shù)的進步,優(yōu)先占領(lǐng)產(chǎn)業(yè)市場(可能還包括國際市場),積累更多創(chuàng)新性自主知識產(chǎn)權(quán),在國際舞臺有更多的話語權(quán)。跟隨性發(fā)展的缺點在于核心知識產(chǎn)權(quán)是別人的,主要市場被別人占據(jù),在國際舞臺上很難爭得話語權(quán);但優(yōu)點是少走彎路,減少浪費。中國根據(jù)自己的情況,決定走超前發(fā)展的道路。
  
  我們看到,從“十二五”規(guī)劃到“十三五”規(guī)劃,國家制定了許多物聯(lián)網(wǎng)發(fā)展的優(yōu)惠政策,也拿出大量專用資金,支持物聯(lián)網(wǎng)技術(shù)和產(chǎn)業(yè)的發(fā)展。雖然某些方面的發(fā)展小于預期,但必須看到,我們在物聯(lián)網(wǎng)相關(guān)技術(shù)方面的發(fā)展是突出的,物聯(lián)網(wǎng)示范產(chǎn)業(yè)基地的建設(shè)更是突飛猛進。
  
  雖然物聯(lián)網(wǎng)產(chǎn)業(yè)和技術(shù)都在快速發(fā)展,但物聯(lián)網(wǎng)的安全問題卻日趨明顯。由于物聯(lián)網(wǎng)技術(shù)將虛擬世界與物理世界結(jié)合在一起,通過虛擬世界的數(shù)字信息就可以控制物理世界的關(guān)鍵設(shè)備甚至基礎(chǔ)設(shè)施,因此物聯(lián)網(wǎng)的安全問題所造成的危害比信息系統(tǒng)安全問題造成的危害更大。這里我們通過一個典型的物聯(lián)網(wǎng)入侵攻擊案例來說明物聯(lián)網(wǎng)安全問題的重要性。2015年12月23日下午,烏克蘭首都基輔部分地區(qū)和烏克蘭西部的140萬名居民突然發(fā)現(xiàn)家中停電。造成這次停電的原因是電網(wǎng)遭到了黑客攻擊。黑客首先操作惡意軟件將電力公司的主控電腦與變電站斷開,隨后又在系統(tǒng)中植入病毒,讓電腦全體癱瘓。與此同時,黑客還對電力公司的電話通訊進行了干擾,導致受到停電影響的居民無法和電力公司進行聯(lián)系。
  
  烏克蘭電網(wǎng)事件似乎離我們很遙遠,其實通過病毒或黑客入侵造成工業(yè)設(shè)施損壞的事件在我們身邊也頻繁發(fā)生,而且近幾年呈增長趨勢。一些攻擊手段表現(xiàn)出專業(yè)化團隊作戰(zhàn)的特征,各個國家也都提高了對網(wǎng)絡的安全防范意識,特別是在今天的物聯(lián)網(wǎng)時代,網(wǎng)絡入侵攻擊所造成的后果,遠不是竊取信息本身那么簡單,而是造成物理設(shè)施的破壞。面對物聯(lián)網(wǎng)市場飛速發(fā)展和物聯(lián)網(wǎng)安全問題日益嚴重的矛盾,物聯(lián)網(wǎng)安全技術(shù)的發(fā)展又將如何進行?相關(guān)政策的制定對物聯(lián)網(wǎng)安全技術(shù)的發(fā)展將起到至關(guān)重要的引導作用。
  
  物聯(lián)網(wǎng)的概念與內(nèi)涵
  
  物聯(lián)網(wǎng)概念的提出有多種來源,但最早以物聯(lián)網(wǎng)為題的年度報告應該是國際電信聯(lián)盟(ITU)發(fā)布年度報告《ITU互聯(lián)網(wǎng)報告2005:物聯(lián)網(wǎng)》。物聯(lián)網(wǎng)的概念提出之后,很多學術(shù)研究也很快在該領(lǐng)域開展,僅在2008年,就出現(xiàn)了以物聯(lián)網(wǎng)為專題的國際學術(shù)會議、專著和系列論文等。2009年,時任總理溫家寶視察無錫時提出感知中國概念,將國內(nèi)對物聯(lián)網(wǎng)的重視程度推向一個高潮。
  
  從技術(shù)上,物聯(lián)網(wǎng)就是通過傳統(tǒng)網(wǎng)絡平臺,主要是互聯(lián)網(wǎng),將物理世界的傳感器等設(shè)備連接起來,其目標是使任何人在任何時間和任何地點都有能力跟任何物理設(shè)備進行通信。換句話說,物聯(lián)網(wǎng)是傳統(tǒng)互聯(lián)網(wǎng)與物理設(shè)施的有機結(jié)合,是虛擬世界向現(xiàn)實物理世界的一種延伸。這種延伸改變了虛擬世界以信息為目標的保護手段,因此稱為第三次信息技術(shù)浪潮。
  
  物聯(lián)網(wǎng)沒有具體定義,經(jīng)過幾年的討論與論證,現(xiàn)在無論學術(shù)界還是產(chǎn)業(yè)以及政府管理部門,都基本接受如下的描述:物聯(lián)網(wǎng)的基本架構(gòu)包括三個邏輯層,即感知層、網(wǎng)絡傳輸層、處理應用層。感知層由傳感器和RFID等設(shè)備組成,包括傳感器節(jié)點和數(shù)據(jù)匯聚節(jié)點(也稱感知層網(wǎng)關(guān)節(jié)點),以及在感知層進行短距離數(shù)據(jù)傳輸?shù)臒o線網(wǎng)絡,其任務是采集周圍物理環(huán)境的信息,包括自身身份信息(對RFID標簽來說),并將感知數(shù)據(jù)進行上傳;網(wǎng)絡傳輸層的任務是將這些感知數(shù)據(jù)通過傳統(tǒng)的網(wǎng)絡基礎(chǔ)設(shè)施傳輸?shù)竭h程的處理中心;處理應用層則對收到的海量數(shù)據(jù)進行智能處理,提供給用戶使用。事實上,物聯(lián)網(wǎng)的傳輸層就是我們傳統(tǒng)的網(wǎng)絡,包括互聯(lián)網(wǎng)和移動網(wǎng)絡,而移動網(wǎng)絡的最終連接形式還是通過互聯(lián)網(wǎng),因此傳輸層是以互聯(lián)網(wǎng)為核心的通信網(wǎng)絡。處理應用層實際是數(shù)據(jù)處理中心,當數(shù)據(jù)量很大時,能夠支撐大數(shù)據(jù)處理的(物聯(lián)網(wǎng)中強調(diào)智能處理)一般是云計算平臺,因此物聯(lián)網(wǎng)的處理應用層一般指云平臺,包括公有云和私有云。物聯(lián)網(wǎng)的網(wǎng)絡傳輸層和處理應用層都屬于傳統(tǒng)信息系統(tǒng)中的組成部分,所不同的是規(guī)模上較傳統(tǒng)信息系統(tǒng)有更高的要求,例如傳輸更可靠、處理更智能等。而物聯(lián)網(wǎng)的感知層才是區(qū)別傳統(tǒng)信息系統(tǒng)與物聯(lián)網(wǎng)系統(tǒng)的根本要素,也是將虛擬世界與現(xiàn)實物理世界相結(jié)合的關(guān)鍵部分。后面我們會談到,在物聯(lián)網(wǎng)安全問題上,感知層的安全問題是整個物聯(lián)網(wǎng)系統(tǒng)安全的技術(shù)瓶頸。
  
  為了更好地理解什么是物聯(lián)網(wǎng),我們看一下一種典型的物聯(lián)網(wǎng)行業(yè)應用:智能家居系統(tǒng),如圖1所示。
  
  在智能家居系統(tǒng)中,有很多的傳感器,用于感知室內(nèi)溫濕度、光照、噪音、有害氣體(如燃氣檢測)、設(shè)備狀態(tài)(如冰箱內(nèi)溫度)、電子開關(guān)(如家用電器開關(guān)、照明燈開關(guān)、空調(diào)開關(guān)等)、視頻監(jiān)控等,這些設(shè)備將感知數(shù)據(jù)(包括電子開關(guān)的狀態(tài)信息)通過一個與互聯(lián)網(wǎng)或移動網(wǎng)絡連接的家庭網(wǎng)關(guān)(即數(shù)據(jù)匯聚節(jié)點)上傳到運營商的一個數(shù)據(jù)平臺,運營商的數(shù)據(jù)平臺對這些數(shù)據(jù)進行處理,將處理結(jié)果發(fā)給用戶終端(如智能手機),這就完成了數(shù)據(jù)上傳和應用過程。另一方面,用戶可以對傳感器進行控制,例如從用戶終端發(fā)送指令,該指令通過運營商的數(shù)據(jù)平臺和互聯(lián)網(wǎng)傳給用戶的家庭網(wǎng)關(guān),然后家庭網(wǎng)關(guān)將該指令發(fā)送給具體的傳感器設(shè)備,該指令可以控制傳感器設(shè)備,也可以控制開關(guān)設(shè)備。這就是一個典型的物聯(lián)網(wǎng)行業(yè)應用系統(tǒng)。其他物聯(lián)網(wǎng)行業(yè)還有很多類似系統(tǒng),包括智能電網(wǎng)、智能管網(wǎng)、智慧醫(yī)療、智能交通、智能農(nóng)業(yè)、智能工業(yè)等等,這些不同應用領(lǐng)域的物聯(lián)網(wǎng)系統(tǒng)在架構(gòu)上有很大的相似之處。
  
 中國的物聯(lián)網(wǎng)安全:技術(shù)發(fā)展與政策建議
 
  
  中外物聯(lián)網(wǎng)發(fā)展政策比較
  
  隨著信息技術(shù)日新月異的發(fā)展,特別是信息采集、傳輸技術(shù)及高性能計算機的迅速發(fā)展和互聯(lián)網(wǎng)與移動通信網(wǎng)的廣泛應用,大規(guī)模發(fā)展物聯(lián)網(wǎng)及相關(guān)產(chǎn)業(yè)的時機日趨成熟,歐美等發(fā)達國家將物聯(lián)網(wǎng)視為未來發(fā)展的重要領(lǐng)域。2009年以來,美歐日等發(fā)達國家紛紛提出物聯(lián)網(wǎng)發(fā)展的戰(zhàn)略、規(guī)劃、核心技術(shù)及產(chǎn)業(yè)重點,促進物聯(lián)網(wǎng)產(chǎn)業(yè)迅速發(fā)展,以期在新一輪的信息化浪潮中占得先機。
  
  2008年,美國提出“智慧地球”的概念,奧巴馬表示要將其作為今后的重要發(fā)展方向。從本質(zhì)上看,“智慧地球”的概念與物聯(lián)網(wǎng)的概念在內(nèi)涵上是一致的。2015年,美國政府宣布投入1.6億美元推動智慧城市計劃,將物聯(lián)網(wǎng)應用試驗平臺的建設(shè)作為首要任務。
  
  歐盟早在2006年就成立工作組,專門進行RFID技術(shù)研究,并于2008年發(fā)布《2020年的物聯(lián)網(wǎng)——未來路線》。2009年6月,歐盟委員會發(fā)布《物聯(lián)網(wǎng)——歐洲行動計劃》,提出了包括監(jiān)管、隱私保護、芯片、基礎(chǔ)設(shè)施保護、標準制定、技術(shù)研發(fā)等在內(nèi)的14項框架內(nèi)容,對物聯(lián)網(wǎng)未來發(fā)展以及重點研究領(lǐng)域給出了明確的路線圖。2015年,歐盟成立了橫跨歐盟及產(chǎn)業(yè)界的物聯(lián)網(wǎng)創(chuàng)新聯(lián)盟(AIOTI),投入5000萬歐元,通過咨詢委員會和推進委員會統(tǒng)領(lǐng)新的“四橫七縱”體系架構(gòu),將包括原有IERC、地平線2020在內(nèi)的11個工作組納入旗下,統(tǒng)籌原本散落在不同部門和組織的能力資源,協(xié)同推進歐盟物聯(lián)網(wǎng)整體跨越式創(chuàng)新發(fā)展。歐盟計劃2016年投入超過1億歐元支持物聯(lián)網(wǎng)大范圍示范和未來物聯(lián)網(wǎng)重點領(lǐng)域研究。
  
  日本是較早啟動物聯(lián)網(wǎng)應用的國家之一。從20世紀90年代中期以來,日本政府相繼制定了多項國家信息技術(shù)發(fā)展戰(zhàn)略,有序地開展了大規(guī)模的信息基礎(chǔ)設(shè)施建設(shè)。2001年1月,日本開始實施“e-Japan”戰(zhàn)略,以寬帶化為核心開展基礎(chǔ)設(shè)施建設(shè),包括盡快普及高速通信網(wǎng)絡,制定有關(guān)電子商務的法律法規(guī),實現(xiàn)電子政務平臺,為日本下一個十年的經(jīng)濟振興提供高素質(zhì)的人才等措施。2004年5月,日本政府在完成“e-Japan”戰(zhàn)略目標的基礎(chǔ)上,由日本信息通信產(chǎn)業(yè)的主管機關(guān)總務省(MIC)向日本經(jīng)濟財政咨詢會議正式提出了2006至2010年間的IT發(fā)展任務——以發(fā)展Ubiquitous社會為目標的“u-Japan”戰(zhàn)略,即到2010年,將日本建設(shè)成一個“隨時、隨地、任何物體、任何人均可連接的泛在網(wǎng)絡社會”,該戰(zhàn)略的理念是以人為本,實現(xiàn)所有人與人、物與物、人與物之間的連接。因此,“u-Japan”的目標實際就是物聯(lián)網(wǎng)技術(shù)的廣泛應用。2009年7月,日本IT戰(zhàn)略本部發(fā)布了新一代的信息化戰(zhàn)略——“i-Japan”戰(zhàn)略,其目標是到2015年實現(xiàn)以國民為中心的數(shù)字化社會,參與解決全球性的重大問題,提升國家的競爭力,確保日本在全球的領(lǐng)先地位。因此在不長的時間內(nèi),日本實現(xiàn)了從“e-Japan”到“u-Japan”,又到“i-Japan”戰(zhàn)略的轉(zhuǎn)變,致力于為日本構(gòu)建一個個性化的物聯(lián)網(wǎng)智能服務體系。
  
  韓國早在2004年就提出了“u-Korea”戰(zhàn)略。2009年10月,韓國政府又頒布了《物聯(lián)網(wǎng)基礎(chǔ)設(shè)施構(gòu)建基本規(guī)劃》,將物聯(lián)網(wǎng)市場確定為新增長動力,確定了構(gòu)建物聯(lián)網(wǎng)基礎(chǔ)設(shè)施、發(fā)展物聯(lián)網(wǎng)服務、研發(fā)物聯(lián)網(wǎng)技術(shù)、營造物聯(lián)網(wǎng)擴散環(huán)境等4大領(lǐng)域、12項詳細課題,并提出到2012年實現(xiàn)“通過構(gòu)建世界最先進的物聯(lián)網(wǎng)基礎(chǔ)設(shè)施,打造未來廣播通信融合領(lǐng)域超一流ICT(信息通信技術(shù))強國”的目標。2015年起,韓國未來科學創(chuàng)造部和產(chǎn)業(yè)通商資源部將投資370億韓元用于物聯(lián)網(wǎng)核心技術(shù)以及MEMS傳感器芯片、寬帶傳感設(shè)備的研發(fā),還有123億韓元的投資來自韓國的私營企業(yè)。
  
  我國在物聯(lián)網(wǎng)技術(shù)方面發(fā)展相對較晚,但近年來的發(fā)展速度驚人。早在2009年,國務院發(fā)展研究中心就聯(lián)合中科院組成研究團隊,撰寫中國物聯(lián)網(wǎng)產(chǎn)業(yè)發(fā)展研究報告。經(jīng)過近半年的調(diào)研分析,該團隊認為在技術(shù)方面,中國已經(jīng)基本具備全面發(fā)展物聯(lián)網(wǎng)這一新興產(chǎn)業(yè)的技術(shù)基礎(chǔ)。在資金方面,中國近年來GDP的連續(xù)高增長也為發(fā)展物聯(lián)網(wǎng)產(chǎn)業(yè)奠定了良好的經(jīng)濟基礎(chǔ)。在人才方面,國家也需要制定政策,鼓勵物聯(lián)網(wǎng)方面人才的培養(yǎng)。到目前為止,全國各地的物聯(lián)網(wǎng)示范項目發(fā)展迅速,物聯(lián)網(wǎng)企業(yè)也快速增加,物聯(lián)網(wǎng)相關(guān)技術(shù)、專利、標準和產(chǎn)品等都在快速增長。伴隨著產(chǎn)業(yè)規(guī)模的快速擴大,我國物聯(lián)網(wǎng)產(chǎn)業(yè)體系日趨完善,集聚發(fā)展態(tài)勢明顯。目前我國已經(jīng)初步形成了覆蓋芯片和元器件、設(shè)備、軟件、系統(tǒng)集成、電信運營、物聯(lián)網(wǎng)服務在內(nèi)的較為完整的產(chǎn)業(yè)鏈,形成了長三角、珠三角、環(huán)渤海和中西部四大物聯(lián)網(wǎng)產(chǎn)業(yè)聚集發(fā)展區(qū),在無錫、重慶、杭州建立了三個國家級物聯(lián)網(wǎng)產(chǎn)業(yè)示范基地。國家對智慧城市的建設(shè)政策能更好地運用物聯(lián)網(wǎng)、云計算、大數(shù)據(jù)、空間地理信息集成等新一代信息技術(shù),促進城市規(guī)劃、建設(shè)、管理和服務智慧化的新理念和新模式。目前,我國一半以上城市在建的“智慧城市”規(guī)劃,其主要應用項目依次為公共安全、交通、醫(yī)療、社區(qū)、環(huán)保、地下管網(wǎng)監(jiān)測、水務、教育等,這些應用均以自動感知為基礎(chǔ)、數(shù)據(jù)采集為手段、智能控制為核心、精細管理和服務提升為目的,實現(xiàn)了物聯(lián)網(wǎng)技術(shù)的綜合集成應用。
  
  我國在物聯(lián)網(wǎng)技術(shù)方面也在不斷進步和創(chuàng)新。例如,中國信息通信研究院牽頭制定了國際標準ITU-TY.2068《物聯(lián)網(wǎng)功能框架與能力》,該標準于2015年3月正式發(fā)布。該標準主要明確了物聯(lián)網(wǎng)功能架構(gòu)和聯(lián)網(wǎng)能力等內(nèi)容。中國信息通信研究院與歐盟還共同發(fā)布了《中歐物聯(lián)網(wǎng)架構(gòu)比較研究報告》《中歐物聯(lián)網(wǎng)標識白皮書》,正在推進《中歐物聯(lián)網(wǎng)語義白皮書》的合作編制和物聯(lián)網(wǎng)架構(gòu)新趨勢的合作研究。無錫物聯(lián)網(wǎng)產(chǎn)業(yè)研究院和工信部電子工業(yè)標準化研究院等聯(lián)合推進完成ISO/IEC30141立項,即物聯(lián)網(wǎng)“六域”模型。該模型從業(yè)務功能的角度對物聯(lián)網(wǎng)系統(tǒng)進行分解,提出了一致性的系統(tǒng)分解模式和開放性的標準設(shè)計框架。華為等眾多企業(yè)已推出以智能手機為核心的智能家居解決方案,華為公司也在積極推動窄帶物聯(lián)網(wǎng)NB-IOT在3GPP的標準化研制工作。2015年7月,華為和中國聯(lián)通合作開展了全球首個LTE-M蜂窩物聯(lián)網(wǎng)CIoT(Cellular Internet of Things)的技術(shù)演示。
  
  但是,應該承認,在整體技術(shù)水平方面,特別是在某些核心技術(shù)方面,我們同歐美發(fā)達國家的差距還很明顯,這主要體現(xiàn)在高性能處理器、高精度傳感器和國際標準的話語權(quán)等方面。對這些技術(shù)的不足,可以通過研發(fā)和采購相結(jié)合的方式來實現(xiàn),例如對那些精度要求不是很高的應用場景,可以使用國產(chǎn)傳感器,以降低建設(shè)費用;對那些需要高精度傳感器的應用環(huán)境,可以采購國外高靈敏度傳感器,以滿足應用需求。
  
  物聯(lián)網(wǎng)安全的研究背景及意義
  
  我國政府一直高度重視信息化建設(shè),早在國家“十一五”規(guī)劃中,就已經(jīng)對寬帶無線通信網(wǎng)絡、傳感網(wǎng)、編碼等問題作了相關(guān)部署,這些都與物聯(lián)網(wǎng)相關(guān),是組成物聯(lián)網(wǎng)系統(tǒng)的重要元素。2009年8月,時任國務院總理溫家寶在無錫視察時指出,要盡快突破核心技術(shù),將物聯(lián)網(wǎng)產(chǎn)業(yè)發(fā)展上升到戰(zhàn)略性新興產(chǎn)業(yè)的高度。在隨后幾個月的時間內(nèi),國家有關(guān)部門對物聯(lián)網(wǎng)的推動達到一個新高度,可以說是遍地開花。但相關(guān)部門很快就注意到,物聯(lián)網(wǎng)關(guān)鍵技術(shù),尤其是安全技術(shù),是物聯(lián)網(wǎng)產(chǎn)業(yè)健康發(fā)展的瓶頸。工業(yè)和信息化部發(fā)布的《物聯(lián)網(wǎng)“十二五”發(fā)展規(guī)劃》指出,要大力攻克核心技術(shù),加快構(gòu)建標準體系,加強信息安全保障。特別需要說明的是,《規(guī)劃》將信息安全保障作為一個專門任務予以重視,其內(nèi)容包括加強物聯(lián)網(wǎng)安全技術(shù)研發(fā),建立并完善物聯(lián)網(wǎng)安全保障體系,加強網(wǎng)絡基礎(chǔ)設(shè)施安全防護建設(shè)。國家“十三五”規(guī)劃指出,要實施網(wǎng)絡強國戰(zhàn)略,加快構(gòu)建高速、移動、安全、泛在的新一代信息基礎(chǔ)設(shè)施。支持智慧城市的建設(shè),提高網(wǎng)絡安全等方面風險防控能力。
  
  在物聯(lián)網(wǎng)系統(tǒng)建設(shè)的初期,由于規(guī)模有限,各個物聯(lián)網(wǎng)示范基地之間相對獨立,還不能構(gòu)成真正意義的互聯(lián)互通,因此面臨的信息安全威脅也小。隨著物聯(lián)網(wǎng)系統(tǒng)數(shù)量的增多和規(guī)模的增大,特別是隨著這些物聯(lián)網(wǎng)應用系統(tǒng)的互聯(lián)互通,以及服務于這些系統(tǒng)的數(shù)據(jù)處理平臺的集中管理,物聯(lián)網(wǎng)安全問題將逐漸顯現(xiàn),會以雪崩效應影響到物聯(lián)網(wǎng)行業(yè),到時候再“亡羊補牢”將為時已晚。
  
  相比互聯(lián)網(wǎng)來說,物聯(lián)網(wǎng)有什么特點呢?首先,互聯(lián)網(wǎng)是一個網(wǎng)絡系統(tǒng),而物聯(lián)網(wǎng)是一個建立在互聯(lián)網(wǎng)基礎(chǔ)設(shè)施之上的龐大的應用系統(tǒng);其次,互聯(lián)網(wǎng)服務的目標是數(shù)字信息,而物聯(lián)網(wǎng)服務的目標是包括信息和物理設(shè)施在內(nèi)的行業(yè)應用;最關(guān)鍵的,同時也是傳統(tǒng)信息系統(tǒng)的信息安全技術(shù)在物聯(lián)網(wǎng)系統(tǒng)中不能發(fā)揮作用的特點是,物聯(lián)網(wǎng)系統(tǒng)中有大量資源受限,甚至對實時性要求很高的終端感知節(jié)點,特別在工業(yè)物聯(lián)網(wǎng)系統(tǒng)中,這些節(jié)點對數(shù)據(jù)傳輸?shù)膶崟r性要求很高,而傳統(tǒng)信息系統(tǒng)的安全保護沒有考慮這些因素,因此傳統(tǒng)的信息安全保護技術(shù)不再適合物聯(lián)網(wǎng)系統(tǒng)。
  
  物聯(lián)網(wǎng)系統(tǒng)的安全技術(shù)挑戰(zhàn)
  
  值得注意的是,雖然國內(nèi)在物聯(lián)網(wǎng)示范應用系統(tǒng)建設(shè)方面蓬勃發(fā)展,但存在的信息安全問題(或物聯(lián)網(wǎng)安全問題)也很明顯。當這些系統(tǒng)規(guī)模有限,相互之間相對獨立時,其安全問題尚不明顯,但隨著規(guī)模的增大,其信息安全問題將會突顯。比如,智能家居是一種典型的物聯(lián)網(wǎng)行業(yè)應用,當一個居戶安裝智能家居系統(tǒng)時,即使沒有采取任何專門針對物聯(lián)網(wǎng)系統(tǒng)的信息安全保護,只采取傳統(tǒng)的網(wǎng)絡安全和數(shù)據(jù)庫安全保護,也顯示不出信息安全的威脅,因為周圍鄰居不太可能發(fā)起攻擊,網(wǎng)絡黑客通過后臺服務器潛入到家庭網(wǎng)關(guān)的情況暫不考慮。但是,當智能家居很普遍時,鄰居之間的傳感器信號會相互影響,一家的傳感器信號可被鄰居家接收,鄰居家的信號也被自己接收,都是很正常的事,就像我們在家搜索WIFI信號時能找到許多WIFI站點一樣。當接收到的是傳感器的數(shù)據(jù)時,可以通過傳感節(jié)點標識進行區(qū)分,但如果想獲取這些信息,則是很容易的事。更可怕的是對控制指令類數(shù)據(jù)的非法篡改和偽造。
  
  信息網(wǎng)絡發(fā)展了這么多年,無論基礎(chǔ)設(shè)施還是信息安全保護,都有很多成熟的技術(shù)。那么物聯(lián)網(wǎng)系統(tǒng)的安全技術(shù)挑戰(zhàn)在哪里呢?我們可以通過物聯(lián)網(wǎng)的基本架構(gòu)進行分析。


  中國的物聯(lián)網(wǎng)安全:技術(shù)發(fā)展與政策建議
  從圖2可以看出,物聯(lián)網(wǎng)的網(wǎng)絡傳輸層和處理應用層都是基于傳統(tǒng)的信息系統(tǒng)建立的,因此傳統(tǒng)的信息安全保護技術(shù)基本可以使用。作為新型數(shù)據(jù)處理的云計算平臺,其架構(gòu)和特征與傳統(tǒng)的計算機系統(tǒng)有很大區(qū)別,因此需要一些有針對性的信息安全保護技術(shù),包括系統(tǒng)安全技術(shù)、數(shù)據(jù)存儲安全技術(shù)、數(shù)據(jù)處理安全技術(shù)、用戶管理安全技術(shù)和新型訪問控制技術(shù)等。對于物聯(lián)網(wǎng)的感知層,當感知節(jié)點的處理能力接近傳統(tǒng)的信息系統(tǒng)時,如智能移動終端,則可以使用傳統(tǒng)的信息安全保護技術(shù),包括操作系統(tǒng)安全技術(shù)、入侵檢測技術(shù)、訪問控制技術(shù)等。但對普通的傳感器以及RFID等設(shè)備,目前還缺乏合適的信息安全保護機制。雖然密碼學家們已經(jīng)設(shè)計出輕量級密碼算法了,但實際使用時不僅僅是一個算法的問題,還需要管理密鑰(密鑰的建立、密鑰的更新)、身份鑒別(確定通信的對方身份是真實的)、數(shù)據(jù)完整性保護(確保數(shù)據(jù)沒有被修改,特別針對惡意修改的保護)、數(shù)據(jù)機密性(確保數(shù)據(jù)內(nèi)容不被竊聽者獲取)和數(shù)據(jù)的新鮮性(用于檢測攻擊者的數(shù)據(jù)重放攻擊,特別對控制指令數(shù)據(jù)的重放攻擊)等技術(shù)。因此,從物聯(lián)網(wǎng)安全技術(shù)的挑戰(zhàn),也是目前技術(shù)的瓶頸,在物聯(lián)網(wǎng)系統(tǒng)的“最后一公里”,即從終端無線感知節(jié)點到接入網(wǎng)絡的物聯(lián)網(wǎng)網(wǎng)關(guān)節(jié)點之間的通信安全問題。如果解決了這個問題,則從整體上解決物聯(lián)網(wǎng)系統(tǒng)的安全問題,提供物聯(lián)網(wǎng)行業(yè)應用中對數(shù)據(jù)端到端的安全保護,在理論上都更加容易,而在實踐中,只是資金與時間的問題。
  
  物聯(lián)網(wǎng)安全技術(shù)目前還沒有統(tǒng)一的國際標準,國家標準也正在制定中,主要原因是物聯(lián)網(wǎng)是個特別大的系統(tǒng),包括的行業(yè)非常多,因此在信息安全保護方面制定統(tǒng)一的標準有一定難度。其實,物聯(lián)網(wǎng)安全問題主要是物聯(lián)網(wǎng)感知層的安全問題,因為在傳輸層和處理應用層,可以采用傳統(tǒng)信息系統(tǒng)的信息安全保護技術(shù),而感知層的設(shè)備種類繁多,性能差異大,從高性能的視頻監(jiān)控設(shè)備,到無人值守的傳感器模塊,在信息安全保護技術(shù)方面都有著很大的區(qū)別。最具有技術(shù)挑戰(zhàn)的,是資源受限設(shè)備的信息安全保護,例如小型傳感器和RFID標簽等。
  
  如果說在傳感器等設(shè)備方面,我們落后的技術(shù)可以通過采購國外技術(shù)和設(shè)備來彌補的話,那么在物聯(lián)網(wǎng)安全方面,特別是物聯(lián)網(wǎng)感知層的信息安全保護方面,很難通過直接購買國外技術(shù)改進,因為物聯(lián)網(wǎng)感知層的安全技術(shù)一般與硬件產(chǎn)品融為一體,購買國外的安全技術(shù)就等于購買國外的產(chǎn)品。而且安全技術(shù)不僅僅限于產(chǎn)品本身,而是要滲入數(shù)據(jù)處理中心,因為信息安全是一個系統(tǒng),而不是一個獨立的模塊。因此,無論國外在物聯(lián)網(wǎng)感知層方面有什么信息安全保護技術(shù),我們都需要研發(fā)自己的技術(shù)并應用于自己的產(chǎn)品,這樣才能實現(xiàn)“可控性”,這也是信息安全體系的重要指標。
  
  綜上所述,物聯(lián)網(wǎng)安全技術(shù)的挑戰(zhàn)重點在于對感知層資源受限設(shè)備的輕量級安全保護,包括輕量級安全算法和輕量級安全協(xié)議。輕量級安全算法具有通用性,而輕量級安全協(xié)議只能做到在小范圍內(nèi)具有一定的通用性。
  
  工業(yè)物聯(lián)網(wǎng)系統(tǒng)的安全技術(shù)挑戰(zhàn)與防護措施
  
  簡單地說,工業(yè)物聯(lián)網(wǎng)系統(tǒng)就是物聯(lián)網(wǎng)技術(shù)與工業(yè)生產(chǎn)系統(tǒng)和監(jiān)管系統(tǒng)的結(jié)合。不同于傳統(tǒng)的物聯(lián)網(wǎng)系統(tǒng),工業(yè)物聯(lián)網(wǎng)系統(tǒng)對信息傳輸?shù)膶崟r性要求很嚴格,有時甚至很苛刻,因為在工業(yè)生產(chǎn)過程中,對信息反饋的實時性要求很高,即使在工業(yè)監(jiān)管系統(tǒng)中,對數(shù)據(jù)的實時性要求也比很多其他物聯(lián)網(wǎng)行業(yè)的要求高。因此,工業(yè)物聯(lián)網(wǎng)系統(tǒng)所面臨的安全技術(shù)挑戰(zhàn)更為嚴峻。
  
  2015年5月,經(jīng)國務院總理李克強簽批,國務院發(fā)布了《中國制造2025》戰(zhàn)略文件,這是一項全面推進實施制造強國的戰(zhàn)略文件,是中國實施制造強國戰(zhàn)略第一個十年的行動綱領(lǐng)。要想實現(xiàn)這一目標,必須推進信息化與工業(yè)化的深度融合,這實際就是工業(yè)物聯(lián)網(wǎng)技術(shù)。因此,在今后的發(fā)展中,作為物聯(lián)網(wǎng)技術(shù)在工業(yè)領(lǐng)域之應用的工業(yè)物聯(lián)網(wǎng)技術(shù),將成為物聯(lián)網(wǎng)技術(shù)發(fā)展的一項有其獨有特色的技術(shù)。同時,工業(yè)物聯(lián)網(wǎng)系統(tǒng)的安全技術(shù)也將成為物聯(lián)網(wǎng)安全領(lǐng)域的具有重要特色的新技術(shù)。
  
  傳統(tǒng)工業(yè)生產(chǎn)系統(tǒng)的信息安全防護手段是網(wǎng)絡隔離,即將生產(chǎn)控制系統(tǒng)與其他信息系統(tǒng)的網(wǎng)絡進行物理隔離。隨著信息管理系統(tǒng)對數(shù)據(jù)業(yè)務需求的提高,要求生產(chǎn)過程的數(shù)據(jù)能實時上報,于是不得不將生產(chǎn)控制系統(tǒng)與生產(chǎn)管理系統(tǒng)的網(wǎng)絡進行連接,但通常使用網(wǎng)閘技術(shù)進行防護,使數(shù)據(jù)只能進行單向傳輸,因此生產(chǎn)管理系統(tǒng)即使遭受入侵攻擊,也不能對生產(chǎn)控制系統(tǒng)造成嚴重影響。隨著生產(chǎn)自動化和信息化的深度融合,這種信息隔離不能提供更高效的生產(chǎn),特別對一些定制化產(chǎn)品的生產(chǎn)更是如此,因此從生產(chǎn)控制系統(tǒng)到生產(chǎn)管理系統(tǒng),需要雙向的信息交互。國家發(fā)布的《中國制造2025》戰(zhàn)略,將進一步推動信息化和工業(yè)化的深度融合,這也給工業(yè)控制系統(tǒng)的安全防護技術(shù)帶來新的安全挑戰(zhàn),特別是對工業(yè)物聯(lián)網(wǎng)系統(tǒng)的安全防護技術(shù)帶來挑戰(zhàn)。
  
  工業(yè)物聯(lián)網(wǎng)系統(tǒng)與許多其他物聯(lián)網(wǎng)行業(yè)的區(qū)別是,在工業(yè)物聯(lián)網(wǎng)系統(tǒng)中,一般會涉及到許多工業(yè)生產(chǎn)設(shè)備,這些設(shè)備系統(tǒng)響應的實時性要求高,無論感知數(shù)據(jù)的傳輸,還是控制指令的發(fā)放,都需要在很短的時間內(nèi)完成,這就給安全防護技術(shù)的實施帶來了挑戰(zhàn)。另外,控制系統(tǒng)中的主機設(shè)備系統(tǒng)老舊,更新困難,在生產(chǎn)過程中很難對一個控制系統(tǒng)進行維護和軟件更新,包括對操作系統(tǒng)和安全防護軟件的更新,以及硬件設(shè)備的添加,因此許多防護措施只能通過旁路方式進行,這種方式只能對一些非正常數(shù)據(jù)提供報警,不能對攻擊行為實施隔離等措施。
  
  但是,針對物聯(lián)網(wǎng)系統(tǒng)的入侵攻擊,特別是工業(yè)物聯(lián)網(wǎng)系統(tǒng)所面對的入侵攻擊,與傳統(tǒng)信息系統(tǒng)的入侵攻擊有著明顯的區(qū)別。傳統(tǒng)信息系統(tǒng)的入侵攻擊目標就是被入侵的主機系統(tǒng),其表現(xiàn)行為從早期的破壞主機系統(tǒng),到后來的獲取主機系統(tǒng)信息,逐步到最后將主機系統(tǒng)變?yōu)楣羝渌鳈C系統(tǒng)的僵尸節(jié)點。但工業(yè)物聯(lián)網(wǎng)系統(tǒng)的入侵攻擊目標一般不是被入侵的主機系統(tǒng),因為無論破壞主機系統(tǒng),還是從主機系統(tǒng)獲取信息,都達不到攻擊工業(yè)設(shè)施的目的。攻擊者一般會通過入侵的主機系統(tǒng)非法控制該主機系統(tǒng)所能控制的受控設(shè)備,這些受控設(shè)備有些可能根本不具有智能判斷能力,如PLC設(shè)備。
  
  基于這種特點,對待入侵攻擊的防護措施也應該進行調(diào)整。傳統(tǒng)信息系統(tǒng)的防護手段是邊界防護(防火墻)和入侵檢測系統(tǒng),一些異常數(shù)據(jù)在邊界防護過程中就能被拒之門外,個別通過邊界防護系統(tǒng)的惡意軟件和遠程控制行為,當在主機系統(tǒng)中進行不正常的操作時,入侵檢測系統(tǒng)一般能識別并進行制止,當然這一過程有時需要人的參與才能作出正確判決。工業(yè)物聯(lián)網(wǎng)系統(tǒng)中的主機也有類似的安全防護,但對工業(yè)物聯(lián)網(wǎng)系統(tǒng)中的主機來說,邊界防護系統(tǒng)由于不能及時更新,基于系統(tǒng)漏洞的惡意軟件和遠程入侵很容易無障礙越過邊界防護;對于一些新型的入侵方式,過時的入侵檢測系統(tǒng)也基本不能識別,甚至有些入侵可以擁有比入侵檢測系統(tǒng)更高的權(quán)限。
  
  我們知道,對未知病毒的防護是困難的,原因是知己不知彼。而病毒攻擊系統(tǒng)之所以能成功,是因為病毒設(shè)計者在設(shè)計時知己知彼。能否將這種不對稱的狀態(tài)扭轉(zhuǎn)過來呢?我們認為對工業(yè)物聯(lián)網(wǎng)系統(tǒng)來說是可能的。針對工業(yè)物聯(lián)網(wǎng)系統(tǒng)的特點,我們提出一種新的安全防護架構(gòu),即入侵容忍系統(tǒng)。入侵容忍系統(tǒng)不是一個主機,而是由主機和被控制單元構(gòu)成的一個工業(yè)物聯(lián)網(wǎng)系統(tǒng),其基本原理是讓入侵者也處于知己不知彼的狀態(tài)。該系統(tǒng)的特點是,如果某一個主機遭受入侵攻擊,無論該入侵攻擊是一個惡意軟件還是非法遠程控制,都不能對該主機所控制的受控設(shè)備造成異常。這種入侵容忍系統(tǒng)是針對工業(yè)物聯(lián)網(wǎng)系統(tǒng)而專門設(shè)計的,不適合對傳統(tǒng)信息系統(tǒng)的安全保護。同時,目前傳統(tǒng)信息系統(tǒng)的安全保護都不具有入侵容忍性。因此,要想對工業(yè)物聯(lián)網(wǎng)系統(tǒng),包括其他一些物聯(lián)網(wǎng)系統(tǒng),提供自主可控的安全防護,需要大力發(fā)展入侵容忍技術(shù)。
  
  物聯(lián)網(wǎng)感知層的輕量級加密認證技術(shù)
  
  隨著便攜式電子設(shè)備的普及和RFID、無線傳感器網(wǎng)絡等技術(shù)的發(fā)展,越來越多的應用需要解決相應的安全問題。然而,相比于傳統(tǒng)的臺式機和高性能計算機,這些設(shè)備的資源環(huán)境通常有限,比如,計算能力較弱、計算可使用的存儲較少、能耗有限等等,導致傳統(tǒng)密碼算法無法很好地適用于這種環(huán)境,這就使得受限環(huán)境中密碼算法的研究成為一個迫切需要解決的熱點問題。適宜資源受限環(huán)境使用的密碼算法被稱為輕量級密碼算法。
  
  輕量級密碼算法與經(jīng)典密碼算法相互影響,互相促進。經(jīng)典密碼算法為輕量級密碼算法的設(shè)計與安全性分析提供理論支撐和技術(shù)指導;另一方面,輕量級密碼之“輕量級”的特點將使得一些安全性分析能夠更加深入、全面地展開,在這個過程中,可能會衍生出新的問題,從而進一步帶動和促進密碼算法安全性分析的進展。
  
  源于應用的推動,近幾年輕量級密碼的研究非常熱門。2015年,盧森堡大學組織了全球輕量級密碼算法性能競賽FELICS,公布了滿足參賽資格的18個密碼算法的綜合性能排名。這種全球性的競賽會大大推動輕量級密碼算法的研究熱情,許多國際標準算法也是通過類似的全球性競賽產(chǎn)生的。當然,很多輕量級密碼算法還缺乏全面、深入的安全性分析,也需要經(jīng)歷時間的考驗,例如Katan/Ktantan密碼算法在發(fā)表后不到2年的時間內(nèi)就被破譯。另外也有一些輕量級密碼算法,其整體結(jié)構(gòu)和算法模塊的設(shè)計還有進一步輕量化的余地。
  
  除了密碼算法需要輕量化外,身份認證技術(shù)更需要輕量化,因為后者關(guān)系到通信過程,其消耗的資源(主要是功耗)遠超過計算過程所消耗的資源。在RFID、無線傳感器網(wǎng)絡等應用環(huán)境中,節(jié)點資源(包括存儲容量、計算能力、通信帶寬和傳輸距離等)受到比傳統(tǒng)網(wǎng)絡更加嚴格的限制,資源的嚴重受限使得傳統(tǒng)的計算、存儲和通信開銷較大的身份認證技術(shù)無法應用,因此輕量級身份認證技術(shù)成為該領(lǐng)域研究的熱點。除此之外,輕量級密鑰管理方案也是保證物聯(lián)網(wǎng)系統(tǒng)安全不可或缺的關(guān)鍵技術(shù)。應該說,輕量級安全保護體系才是解決物聯(lián)網(wǎng)感知層安全問題的整體方案。
  
  對物聯(lián)網(wǎng)安全技術(shù)發(fā)展的政策建議
  
  近年來,國家在物聯(lián)網(wǎng)安全方面給予了很多政策支持和一定的資金支持,例如在“十二五”期間,科技部設(shè)立了國家863項目“物聯(lián)網(wǎng)安全感知關(guān)鍵技術(shù)及仿真驗證平臺”,在“十三五”的規(guī)劃中,又設(shè)立了工控安全專項,這些都說明國家對物聯(lián)網(wǎng)安全領(lǐng)域的重視和支持。但是,物聯(lián)網(wǎng)系統(tǒng)建設(shè)中對信息安全的防護投入?yún)s遠遠不夠。有關(guān)分析表明,我國在信息安全領(lǐng)域的投資占整個IT投資比例不足1%,和美國(3.6%)及日本(6%)等成熟市場差距依然明顯。對信息安全防護意識的程度、對信息安全防護體系的檢查以及對信息安全問題所造成的損失的正確評估和責任追溯,是決定信息安全投入的主要原因。
  
  考慮到物聯(lián)網(wǎng)安全問題關(guān)系到行業(yè)應用的安危,甚至在一定程度上會關(guān)系到國家的安全,國家應該提前進行部署,而不能等到亡羊補牢。因此,物聯(lián)網(wǎng)安全方面的基礎(chǔ)研究應該由國家設(shè)立資金予以支持,并在研究成果產(chǎn)業(yè)化后進一步給予一定補助,這樣會提高面向產(chǎn)業(yè)應用研究的動力。
  
  目前有些項目指南過于強調(diào)技術(shù)細節(jié),目標也太具體,并且不允許失敗。這種管理方式看上去效果明顯,但實際上成功和失敗沒有本質(zhì)區(qū)別,許多形式上的完成沒有多少實質(zhì)性進展,更不要說創(chuàng)新。在某些情況下,以項目形式的支持可能不如以團隊形式的支持更為有效。對某些項目,可以選取1~2家在業(yè)界明顯具有領(lǐng)先水平的團隊進行資助,研究目標小而精,并且以國際影響和產(chǎn)業(yè)化程度為考核指標,強化權(quán)利和義務的對等。這些考核指標不以結(jié)題匯報為依據(jù),更應關(guān)注其他證據(jù),包括同行專家的評議、經(jīng)濟和社會影響。對那些項目完成突出的團隊,給予嘉獎;對那些沒有實際解決問題的團隊,降低以后項目的競爭優(yōu)勢。這種管理方式可能會逐步形成綜合實力強的團隊,而那些在某些點上競爭實力強的小團隊,也要使其有生存和發(fā)展空間。在這種模式下,團隊人數(shù)將不占優(yōu)勢,因為雖然大團隊的整體競爭力變強,但其所消耗資源的增加將會是團隊的劣勢,因此會逐漸形成人均競爭力和創(chuàng)造力強的團隊,這才是科研激勵的目標。
  
  物聯(lián)網(wǎng)是一種新型產(chǎn)業(yè)方向,是信息技術(shù)發(fā)展的一個新階段。物聯(lián)網(wǎng)安全問題還沒有在物聯(lián)網(wǎng)行業(yè)應用中得到廣泛關(guān)注,甚至還沒有引起社會的足夠重視。目前的矛盾是,行業(yè)界認為物聯(lián)網(wǎng)安全問題沒有這么嚴重,而學術(shù)界認為物聯(lián)網(wǎng)安全方面的研究不能產(chǎn)生創(chuàng)新性理論成果。這種情況導致從事信息安全研究的學者不愿意研究物聯(lián)網(wǎng)安全問題,而從事物聯(lián)網(wǎng)產(chǎn)業(yè)建設(shè)的團隊又很少有信息安全領(lǐng)域的專家,這種矛盾導致了物聯(lián)網(wǎng)安全需求仍然停留在口號上。如何鼓勵從事信息安全研究的科研人員投入到物聯(lián)網(wǎng)安全方面的研究,推動國家物聯(lián)網(wǎng)產(chǎn)業(yè)的信息安全建設(shè),保障物聯(lián)網(wǎng)產(chǎn)業(yè)的健康發(fā)展,是一個值得思考的問題。市場引導人們的行為,政策引導市場的走向,因此制定一個合適的政策可以更好地引導物聯(lián)網(wǎng)行業(yè)應用與信息安全科學研究的結(jié)合,提高物聯(lián)網(wǎng)系統(tǒng)的安全保護。



色偷偷一区二区无码视频| 超碰国产人人| 国产丝袜视频在线观看| 亚洲最大av一区二区三区| a一级视频| 国产特级淫片免费看| 中文字幕一区二区三区人妻少妇| 在线天堂视频| 日本妇人成熟免费中文字幕| 亚洲在av极品无码天堂手机版| 亚洲精选中文字幕| 乱淫的女高中暑假调教h| 夜夜草导航| www.久久久久久| 性色av蜜臀av色欲av| 在线看片成人| 天堂中文av在线| 亚洲网站在线看| 99极品视频| 亚洲a视频在线观看| 国产又色又爽又黄刺激的视频| 日韩精品在线播放 | 性开放网站| 91传媒网站| 无码爆乳护士让我爽| 日本高清在线播放| 中国黄色网页| 日韩欧美在线精品| 国产自产v一区二区三区c| 成年女人男人免费视频播放| 91女人18毛片水多国产| 欧美片网站yy| 欧美寡妇性猛交ⅹxxx| 国产麻传媒精品国产av| 久久精品国内一区二区三区| 国产成人麻豆亚洲综合精品| 肉丝一区二区| 国产午夜不卡片免费视频| 秒拍福利视频| 国产黄色在线看| 国产日韩免费| 国产真实偷伦视频| 国产夫妻性生活| 啪啪免费网站| 伊人久久婷婷| 91亚洲国产成人精品一区| 久久99一区| 国产无人区码熟妇毛片多| wwwav视频在线观看| 亚洲成a人片77777精品| 色欲aⅴ亚洲情无码av蜜桃| 欧美偷拍一区二区三区| 欧美精品色哟哟| 黄色av免费看| 欧美日韩美女| 婷婷色六月天| 性——交——性——乱免费的| 香蕉视频官方网站| 亚洲精品国产成人99久久6| 人妻激情乱人伦| 干日本少妇| 日本三级黄色录像| 人妻少妇精品视频二区| 亚洲美女屁股眼交8| 少妇午夜啪爽嗷嗷叫视频| 欧美激情3p| 又黄又粗又爽免费观看| 亚洲精品乱码久久久久久按摩| 极品少妇被后入内射视| 欧美疯狂性受xxxxx喷水| 麻豆视频成人| 99精品欧美一区二区三区| 永久免费av| 免费看黄色的网址| 日本一区二区久久| 亚洲色大成网站www永久在线观看| 亚洲国产欧美日韩欧美特级| 极品无码人妻巨屁股系列| 亚洲我射| 黄色一级小视频| 黄色激情在线观看| 粗壮挺进邻居人妻无码| 台湾av在线| 伊人久久大香线蕉av五月天| 色婷婷噜噜久久国产精品12p| 中文字幕日本免费毛片全过程| 成人伊人亚洲人综合网站| 内射气质御姐视频在线播放| 北京少妇宾馆露脸对白| 日韩精品一区二区三区在线观看视频网站 | 亚洲男人天堂2019| 懂色av一区二区三区免费| 开心激情综合| 中文字幕一二区| 四虎影| 欧美三级成人| www.香蕉.com| 女人18毛片a级毛片一区二区| 国内精品久久久久久无码| 日本激情吻胸吃奶呻吟视频| 国产精品一区12p| 久久精品5| 国产欧美亚洲精品a| 色偷偷成人网免费视频男人的天堂| 久久综合激情网| 国产精品8| 少妇精品视频无码专区| 婷婷在线播放| 加勒比综合| 99久久久久国产精品免费| 欧美成人专区| 亚洲卡一卡二| いいなり北条麻妃av101| 国产freexxxx性麻豆| 在线亚洲成人| 欧洲熟妇性色黄在线观看免费| 欧美日本国产精品| 天下第一社区视频www日本| 成人av亚洲| 黄色一级片在线免费观看| 亚洲免费久久| 国产稚嫩高中生呻吟激情在线视频| 精品少妇久久久久久888优播| 久久超碰色中文字幕超清| 精品视频无码一区二区三区| 成人午夜视频免费观看| 国产jizz18高清视频| www.夜夜操.com| 91丨九色丨国产丨porny| 91香蕉一区二区三区在线观看| 99av海角社区| 国产人妇三级视频在线观看| 免费麻豆视频| 日韩69永久免费视频| wwwxxxx欧美| 78国产伦精品一区二区三区| 亚洲欧美久久| 久久综合中文| 亚洲熟伦熟女专区hd高清| jjzz在线| 欧美在线视频一区| 久久永久免费专区人妻精品| 青青草成人影视| 少妇愉情理伦片高潮日本| 成人精品国产| 综合av在线| 国产不卡久久精品影院| 456成人网| 制服丝袜av无码专区完整版| 三上悠亚久久爱一区| 久久久久99精品| 国产一卡二卡| 天堂综合网| 色avav色av爱avav亚洲色拍| 欧美老妇bbwhd| 亚洲国产精品一区二区久久恐怖片| 女人扒开屁股桶爽30分钟| 日韩精品 中文字幕 视频在线| 久久98| 欧美人成视频在线视频| 一本大道av伊人久久综合| 国产无遮挡吃胸膜奶免费看| 羞羞视频在线网站观看| 我撕开了少妇的蕾丝内裤视频 | 成人激情在线视频| 波多野结衣 久久| 26uuu在线亚洲欧美| 明星乱淫免费视频欧美| 中文字幕在线观看英文怎么写| 96毛片| 亚洲一区二区三区中文字幕在线| 黄视频免费在线观看| 国产午夜精品久久久| 又紧又黄的免费视频网站| 亚洲xxxx丝按摩袜| 熟妇与小伙子matur老熟妇e| 欧美日韩国产成人精品| 又粗又黑又大的吊av| 亚洲国产黄| 亚洲熟伦熟女新五十路熟妇| 欧美国产免费| 伊人无码一区二区三区| 91色呦呦| 萌白酱国产一区二区| 国产真实乱偷精品视频| 国产丝袜网站| 噜噜啪啪| 欧美成人三区| 精品粉嫩超白一线天av| 欧美一区二区高清视频| 欧美老人巨大xxxx做受| 亚洲精品88| 欧美高清一区二区三区四区| 国产精品女上位好爽在线| 亚洲成人综合网站| 日韩免费在线观看视频| 热99精品| 日本熟日本熟妇中文在线观看| 午夜免费| 天天做天天爱天天操| 天天鲁在视频在线观看| 天天爽夜夜操| 精品国产综合区久久久久久| 特黄aaaaaaaaa真人毛片| 一本久道久久综合狠狠躁av| 99久久伊人精品综合观看| 国产亚洲成av人片在线观黄桃| 91社区福利| 男女啪啪猛烈免费网站| 一级黄色短片| 亚洲 中文 女同| 天天躁日日躁狠狠躁性色av| 高h禁伦肉伦np双龙| 国产成人精品一区二区三区在线| 老司机久久精品视频| 男女超爽视频免费播放| 亚洲一区二区在线看| 午夜伦yy44880影院| 涩涩国产| 狠狠综合久久久久综合网| 国产精品久久久久久妇女| 性大毛片视频| 一本无码av中文出轨人妻| 国产精品亚洲二区在线观看| 国自产偷精品不卡在线| 人人九九| 日韩精品99久久久久久| 久草视频资源| 开心激情婷婷| 春色校园综合人妻av| 在线免费色| 999一区二区三区| 精品在线视频免费观看| 久久亚洲区| 国产成人欧美视频在线观看| 亚洲黄色在线| 91网页版| 一杯热奶茶的等待| 色综合久久久无码中文字幕| 国产色诱视频| 欧美超碰在线| 夜夜躁人人爽天天天天大学生| 一本到中文无码av在线精品| 欧美日韩中日| 中文字幕在线观看亚洲视频| 青青青国产精品国产精品美女| 免费日韩精品| 国产成人av区一区二区三| 一性一交一口添一摸视频| 欧美成人va免费看视频| 911美女片黄在线观看游戏| 先锋影音av最新资源| 香港三日本三级少妇三99| 精品一区二区三区欧美| 中文字幕精品一二三四五六七八| 欧美一二区视频| 美女隐私免费观看视频| 精品蜜桃av| 久操视频在线观看免费| 国产精品高潮呻吟三区四区| 授乳喂奶av中文在线| 色综合久久久久综合99| 国产网友自拍在线视频| 天美乌鸦星空mv| 国产在线拍揄自揄视频导航| 性av在线| 国产99热| 曰韩中文字幕| 全部免费毛片在线播放| 日韩成人激情视频| 中文字幕在线一区二区三区| 特级a做爰全过程片| aaaa黄色片| 乱熟女高潮一区二区在线| av网站免费线看精品| 欧美在线影院| 女人的黄色片| 亚洲第一狼人伊人av| 久久av无码精品人妻系列| 很黄很黄让你高潮视频| 国产精品av在线| 亚洲无套| 国产黄色在线观看| 丰满少妇在线观看网站| 中文乱码免费一区二区| 一级少妇片| 国产精品va在线观看h| 在线播放国产一区二区三区| aaa一级黄色片| 荷兰成人性大交视频| 国产无遮无挡120秒| 久久精品综合| 亚洲三级黄| www久久久天天com| 极品少妇被猛得白浆直流草莓视频| 欧洲久久精品| 亚洲婷婷av| 久久麻豆成人精品av| 亚洲第一页在线观看| 亚洲国产精品网站| 亚洲日本在线在线看片| 日韩一级片中文字幕| 222aaa亚洲精品国产| 青草福利视频| 成人免费网站入口www| 日日夜夜干| 50部乳奶水在线播放| 精品少妇牲交视频大全| 国产女人叫床高潮大片视频| 无码精品人妻一区二区三区涩爱| 成人爽站w47pw| 无码成人aⅴ免费中文字幕| 精品国产乱码久久久人妻| 久久人妻少妇嫩草av| 情趣蕾丝内衣少妇啪啪av| 久久久久极品| 黄色3级视频| 国产日韩免费视频| 亚洲欧洲日本精品专线| 新婚若妻侵犯中文字幕 | 99热只有这里有精品| 少妇性xxxx性开放黄色| 丰满少妇女人a毛片视频| av网在线播放| 中文字幕无码乱码人妻系列蜜桃| 亚洲精品人| av手机观看| 欧美最新精品videossexohd| 精品国产一区二区三区免费| 毛片无码一区二区三区a片视频| 噜噜噜在线观看免费视频日本| 日韩欧美亚洲| 国产97视频人人做人人爱| 人妻.中文字幕无码| 国模欣谣大尺度啪啪人体| 亚洲精品无码成人a片在| 国产毛片在线视频| 国产精品aⅴ| 538国产视频| 成人网免费视频| 丰满少妇高潮惨叫久久久一| 国产又粗又猛又黄又爽视频| 国产无人区卡一卡二卡乱码| 精品无码一区二区三区不卡 | 黄色免费在线观看视频| 欧美大片高清免费观看| 中国黄色录像一级片| 欧美精品一级| 中日躁夜夜躁| 97se亚洲综合自在线| 名人明星三级videos| 国产资源无限好片| 91av蝌蚪| 成人在线视频免费播放| 久久九九久精品国产日韩经典| 97国产爽爽爽久久久| 色欲人妻aaaaaaa无码| 少妇一级淫片免费放播放| 91麻豆精品国产午夜天堂| 成人comx8| 蜜臀av片在线观看| 午夜性开放午夜性爽爽| 亚洲一区国产一区| 中文字幕av免费专区| 黄色大片视频| 亚洲同性男网站| 国产成人午夜精品影院游乐网| 亚洲综合国产成人丁香五月激情| 91嫩草视频在线观看| 91女女互慰吃奶在线| 中国丰满人妻videoshd| 亚洲熟妇久久精品| 国模无码人体一区二区| aaaaa少妇高潮大片在按摩线| 好看的中文字幕av| 国产99视频精品免费视频6| 久久久水蜜桃| sm国产在线调教视频| 中文字幕久久精品波多野结百度| 污污av| 日本不卡一区二区三区| 国精品无码一区二区三区在线| 亚色中文网| 好爽又高潮了毛片| 久久黄色精品视频| 人人插插| 日本熟妇色高清播放| 欧美一区不卡| 无遮挡激情视频国产在线观看| 欧美50p| 天天舔天天爽| 亚洲国产综合在线观看不卡 | 黄色www| 日韩精品极品视频在线观看免费| 精品国产乱码一区二| 亚洲视频观看| 人人干97| 亚洲阿v天堂无码z2018| 久久人妻公开中文字幕| 青青青手机在线视频| 女人被狂躁高潮啊的视频在线看| 亚洲精品日韩一区二区小说| 亚洲一区黄色| 欧美性生活精品| 99情趣网| 92电影网午夜福利| 欧美激情69| 免费观看又色又爽又湿的视频软件 | 免费淫片| 四虎国产精品成人免费久久| V 亚洲午夜免费福利视频| 法国少妇xxxx做受| 一二三精品| 免费av观看| 无码少妇一区二区三区芒果 | 久久不见久久见免费视频观看| 日本啪啪网站| 亚洲国产一区久久yourpan| 精品一卡二卡三卡四卡网站| 欧美不卡一区| 精品久久久久久久国产性色av| 国产a自拍| 曰韩无码二三区中文字幕| 国模少妇无码一区二区三区| 国产av天堂亚洲国产av天堂| 六十路熟妇乱子伦| 日韩一区网站| 国产成人精品无码片区在线观看| 五月婷婷激情小说| 亚洲三级a| 久久精品视频99| 国产性色av| 91精品视频免费观看| 亚洲熟妇无码乱子av电影| 亚洲色成人网站www永久尤物| av天堂永久资源网| 人人干人人搞| 午夜视频www| 精品三级在线观看| 国产在线精品一区二区在线看| 成人久久18免费| 成人网在线视频| 国产乱人伦精品| 亚洲国产精品无码久久久秋霞2| 亚洲激情第一页| 中文天堂| 一区二区国产精品精华液| 久久精品国产露脸对白| 五月婷婷激情视频| 亚洲精品伊人久久久大香| 黄色毛片在线| 欧美日韩亚洲国产欧美电影| 玩弄japan白嫩少妇hd| 精品视频久久久久| 性猛交富婆xxxx乱大| 日本道精品一区二区三区| 日韩第2页| 欧美性xxxx图片| 性——交——性——乱免费的| 日韩精品视频在线看| 69视频免费在线观看| 国产精品成人99一区无码| 国产三级网址| 免费在线观看成人av| 高清精品一区二区三区| 亚洲熟妇av一区二区三区| 久久羞羞| 免费精品一区| 国产suv精品一区二区6| 青青国产在线视频| 一区免费在线| 可以免费看成人啪啪过程的软件| 人人妻人人澡人人爽人人精品| 日韩片在线观看| 噜噜色网| 欧美一级片在线| 男女在楼梯上高潮做啪啪| 播播激情网| 欧美黄色小说| 少妇喷潮明星| 日本中文字幕第一页| 黑人上司好猛我好爽中文字幕| 国产伦精品一区二区三区视频孕妇 | 蜜芽国产尤物av尤物在线看| 中国黄色录像一级片| 日本午夜大片| 成人激情视频在线观看 | 黑人与中国少妇xxxx视频| 一二三区免费| 国产精品久久久久久久白丝制服| 欧洲亚洲成人| 丰满少妇人妻hd高清果冻传媒| 亚洲丁香婷婷| 亚洲成熟少妇视频在线观看| 海角国产乱辈乱精品视频| 日本老太婆做爰视频| 特级做a爰片毛片免费69| 国产精品一区二区免费视频| 国产激情视频在线播放| 国产精品乱| 波多野结衣一区二区| 欧美日韩国产区| 日韩精品999| 看全黄大色黄大片| 97色伦图片| 精品国色天香一卡2卡3卡| 国产曰又深又爽免费视频| 国产99在线 | 中国| 久久久一| 亚洲国产精品久久一线app| 日韩一区二| 亚洲第一免费网站| 国产桃色无码视频在线观看| 色欲av亚洲一区无码少妇| 国产一级影院| jizz性欧美5| 国产一区二区不卡在线看| 色播亚洲视频在线观看| 中文字幕无码久久精品| 美女自卫网站| 国内精品自国内精品自线电影| 欧美伊人网| 久久久精品一区二区三区| 波多野结衣中文字幕久久| 最新国自产拍av| 国产视频一| 亚洲福利专区| 尼姑福利影院| 亚洲国产一区二区三区日本久久久| 久久久久久片| 亚洲精品无码久久不卡| 怡红院成永久免费人视频新的| 国产精品女主播主要上线| 亚洲国产不卡久久久久久| 红桃17c视频永久免费入口| 欧美一级免费在线观看| 台湾亚洲精品一区二区tv| 91涩涩涩| 老熟女毛茸茸浓毛| 亚洲人成日韩中文字幕不卡| 亚洲欧美综合国产不卡| 欧美又粗又大又硬又长又爽视频 | 国产夫妻在线观看| 在线高清免费不卡全码| √天堂| www.国产视频| 玖玖在线免费视频| 噼里啪啦动漫| 国产中年熟女高潮大集合| 天堂а在线最新版在线| 欧美一区二区免费| 狠狠色噜噜狠狠狠狠888奇米| 91欧美精品| 性欧美18一19内谢| 任我爽橹在线视频精品583| 免费黄色的网站| 亚洲成a人无码亚洲成www牛牛| 亚洲午夜国产精品无码老牛影视| 亚洲欧洲自偷自拍图片| 精品99久久| 人妻av中文系列| 女人张开腿让男人桶个爽| 荫蒂被男人添的好舒服爽免费视频| 狼人无码精华av午夜精品 | 天堂在线中文字幕| 免费福利视频一区二区三区高清| 人妻av中文系列| 黄色一区二区三区四区| 色五月天天| 韩国三级hd两男一女| 日本xxxx18野外无毒不卡| 国产精品爽爽久久久久久竹菊| 日本三区视频| 偷自拍亚洲视频在线观看| 国产午夜成人精品视频app| 67194熟妇在线直接进入| 色欲色香天天天综合网站| 日韩午夜高清| 国产欧美激情视频| 亚洲国产精品成人久久蜜臀| 日韩激情一区| www.桃色| 在线天堂中文最新版www| 久久亚洲精品国产精品777777| 99国产精品99| 欧美激情国产精品日韩| 久久在线精品视频| 初高中福利视频网站| 岳睡了我中文字幕日本| 亚洲四区在线| av网站观看| 国产精品久久网站| 亚洲欧美成aⅴ人在线观看| 成人免费午夜无码视频在线播放| 成人福利网址| 日韩福利一区二区| 色播一区二区| 天堂…中文在线最新版在线| 日本不卡一区二区三区| 国产成人无码免费看视频软件| 国产99视频精品免费播放照片 | 三级黄色毛片| 日本一级大全| 亚洲精品成a人在线观看| 青青草视频播放器| 九九九九九九精品| 国产丰满天美videossex| 91tv亚洲精品香蕉国产一区| 妇欲欢公爽公妇高h苏晴| 成人α片免费视频在线观看| 色人阁网站| 伊在人天堂亚洲香蕉精品区| 黄色大片免费在线观看| 6080影视最新97理伦片| 黄色一级片在线看| 2022av在线| 狠狠色狠狠色综合久久第一次| 99视频有精品视频高清| 偷窥 亚洲 色 国产 日韩| 国产学生美女无遮拦高潮视频| 精品少妇爆乳无码av无码专区| 波多野结衣激情视频| 无码人妻出轨黑人中文字幕| 伊人久久大香线蕉av五月天| 深夜视频一区二区| 午夜伦视频| 四川50岁熟妇大白屁股真爽| 亚洲熟妇av欧差aa片爽| 久草手机在线视频| 亚洲天堂少妇| 337p日本大胆噜噜噜鲁| 精品无人乱码一区二区三区| 欧美日韩亚洲精品瑜伽裤| av作品在线| www.色99| jizz久久精品永久免费| 无码国产69精品久久久孕妇| 国产精品99视频| 非洲黑人最猛性xxxx交| 色婷网| 天天av天天av天天透| 欧美日韩一级视频| 国产免费视频一区二区裸体| av中文字幕第一页| 日本一级黄色毛片| 免费人成视频网站在线下载| 五月天一区二区三区| 能直接看的av| 91色漫| 天天干天天弄| 99国内精品久久久久久久软件| 视频一区 视频二区 视频三区 视频四区 国产 | 性猛交xxxx乱大交孕妇2| 欧美67194| 久久人妻少妇嫩草av蜜桃| 亚洲精品无码久久久久av麻豆| 人人玩人人添人人澡超碰| 国产成人秘密网站视频999| 动漫精品中文无码通动漫 | 高清无码不用播放器av| 亚洲男人的天堂在线观看| 欧美人伦禁忌dvd放荡欲情| 永久国产| 另类激情在线| 逼特逼视频在线观看| 亚洲国产成人精品久久久国产成人一区| 8x拔播拔播x8国产精品| 国产一级视频在线| 中文字幕丰满乱孑伦无码专区 | 天堂а√中文在线| 久久久精品伦理| 成人做受120秒试看试看视频| 国产一乱一伦一情| 麻豆aⅴ精品无码一区二区| 久久久久国产精品人妻aⅴ四季| 亚洲人av在线| 888久久久| 真人做爰免费毛片视频| 国产专区国产av| 西西人体大胆午夜啪啪| 成人第四色| 综合狠狠| 久久香蕉国产| 久草高清视频| 裸体一区二区三区| 亚洲13p| 高潮内射免费看片| 亚洲日韩欧美国产高清αv| 日韩精品内射视频免费观看 | 人妻无码一区二区三区 tv| 成人做爰高潮尖叫声免费观看| 日韩午夜在线观看| 777av| 国产视频网站在线观看| 在线观看免费无码专区| 成人在线视频网站| 91精品国产欧美一区二区| 欧美黑人粗大猛烈18p| 夜夜影院未满十八勿进| 少妇淫真视频一区二区| 性欧美videofree高清极品| 老女人丨91丨九色| 76少妇精品导航| 欧美日韩中文| 国产成人免费av| 99精品免费久久久久久久久| www夜夜爱| 好吊色免费视频| 久久国产精品大桥未久av| 久久精品嫩草影院| 久久99一区| 日韩两性视频| 欧洲高潮三级做爰| 久久国产劲爆∧v内射-百度| 91a天堂资源| 亚洲精品无码鲁网中文电影| 国产精品色无码av在线观看| 国内品精一二三区品精| 天天做天天爱夜夜爽少妇| 米奇7777狠狠狠狠视频影院| aaa欧美| 男女插插插视频| 神马久久久久久久久久| 在线a亚洲v天堂网2018| 成人a免费| 成人看的毛片| 欧美色就是色| 欧美多毛肥胖老妇做爰| 99视频网| 欧美深性狂猛ⅹxxx深喉| 亚洲精品高清国产一线久久| 久久99久久99精品中文字幕| 粉嫩久久久久久久极品| 奇米影视久久久| 久久草莓香蕉频线观| 少妇一区二区三区| 日韩精品一二区| 黄a在线观看| 国产色婷婷精品综合在线| 中文字幕国产专区| 在线播放免费人成毛片| 又大又粗欧美黑人aaaaa片| 内射老妇bbwx0c0ck| 嫩草精品福利视频在线观看| 国产98色| 国产黄频| 天天躁日日躁狠狠躁一区| 青青青操| 在线观看国产黄色| 亚洲精品国产a久久久久久| 在线观看无码不卡av中文| 特黄特色大片免费视频大全| 一区二区美女视频| 欧美另videosbestsex死尸| 亚洲精品aaaa| 三级不卡| 蜜臀av性久久久久蜜臀aⅴ四虎| 久久精品国产99久久久香蕉| 日韩69av| 一区二三区国产好的精华液o9| 亚洲午夜无码久久久久小说| 夜鲁鲁鲁夜夜综合视频| 黑人黄色片| 日韩精品一区二区视频| 国产一区二区三区久久精品| 国产成人日韩| 国产91精品一区二区麻豆亚洲| 狠狠狠狠狠| 特大黑人娇小亚洲女| 国产男男同志互慰gvxxx| 亚洲区日韩精品中文字幕| 撸啊撸av| 欧美视频色| 欧美交换配乱吟粗大免费看| 三级视频在线播放| 好吊妞无缓冲视频观看| 国产aⅴ夜夜欢一区二区三区| 午夜视频免费看| 性国产xxxx乳高跟| 国产精品白浆在线观看免费| 忘忧草社区在线资源www| 中文字幕乱码久久午夜| 成人免费网址| 一级片毛片| 超碰伊人久久大香线蕉综合| 久久免费手机视频| 久久久久久成人| 精品少妇一区| 麻豆91视频| 亚洲伊人久久大香线蕉av| 在线第一页| 91视频综合网| 漂亮人妻被黑人久久精品| 久久亚洲国产精品影院| 日韩国产激情| 91超级碰| 免费人妻无码不卡中文字幕18禁| 香蕉av777xxx色综合一区| 国产日产欧美最新| 5x社区未满十八在线视频| 北条麻妃在线一区二区韩世雅 | 中文字幕无码免费久久9一区9| 91丨porny丨国产丝袜福利| 97久久精品人妻人人搡人人玩| 真实国产露脸乱| 91最新在线视频| 久久久噜噜噜久久免费| 国产成人精品三级在线影院| 欧美日韩在线精品视频二区| 国产嫖妓一区二区三区无码| 欧美在线精彩视频免费播放| 老色鬼a∨在线视频在线观看| 亚洲最大色综合成人av | 相泽南av日韩在线| 99视频+国产日韩欧美| 少妇人妻挤奶水中文视频毛片| 成人网久久| 蜜桃av在线播放| 亚洲一一在线| 曰本女人牲交全视频免费播放| 国产日韩欧美视频在线| 亚洲国产精品无码久久一线| 一本大道色婷婷在线| 欧美精品乱码99久久蜜桃| 亚洲人免费视频| 亚洲天堂福利视频| 综合亚洲伊人午夜网| 国产白丝jk绑缚调教网站| 在线亚洲午夜理论av大片| 久久久久久网| а√天堂ww天堂八| 欧美一级录像| 亚洲码中文| 久久久久久久久淑女av国产精品| 九一精品视频| 中文字幕有码在线观看| 国产三级小视频| 亚洲欧洲日产无码中文字幕| 成人av黄色| 亚洲综合熟女久久久30p| 免费国产在线一区二区| 久久这里只有精品9| 国产97色在线 | 欧洲| 伊人网91| 中文字幕在线观看亚洲| av毛片网| 欧美成人国产精品高潮| 国产免费一区二区三区| 5858s亚洲色大成网站www| 密桃av在线| 成人午夜污污在线观看网站 | 在线观看免费视频一区 | 妇子乱av一区二区三区| 日本欧美国产在线| 综合精品久久| 久久99九九精品久久久久齐齐| 99久久人妻精品免费一区| 蜜臀va| 久久理论片午夜琪琪电影院| 久久久久久中文字幕有精品| 老太婆性杂交视频| 国产精品一品二品| 国产精品伦一区二区| 亚洲精品成人av观看| 日本大片在线播放在线软件功能| 91亚洲精品视频| 天天操夜夜拍| 99re6在线观看国产精品| 日韩毛片视频| 曰本无码人妻丰满熟妇5g影院| 爱av导航| 亚洲一区激情校园小说| 韩国成年人网站| 国产18毛片| 婷婷丁香五月亚洲中文字幕| 久久va| 日韩成人免费69vm| 女人性做爰100部免费| 日本三不卡| 一本到无吗专区| 国产黄网站| 久久久久久久久久一区二区三区 | 在线观看高清av| 一区二区三区国产亚洲网站| 国产区在线观看视频| 色999av| www噜噜噜| 99热成人精品国产免费| 人妻被按摩到潮喷中文字幕 | av黄色在线播放| 国产欧美精品一区二区三区-老狼| 怀孕挺大肚子疯狂高潮av毛片| 一本大道无码人妻精品专区| 777爽死你无码免费看一二区| 成年人黄色小视频| 国产互换人妻hd| 亚洲一区在线日韩在线深爱| 超级av在线天堂东京热| 国产乱子伦一区二区三区四区五区| 麻豆国产va免费精品高清在线| 成人精品喷水视频www| 国产又爽又黄免费视频| 7m精品福利视频导航| 日本乱偷互换人妻中文字幕| 国产精品嫩草影视久久久| 色五五月| 97久久人国产精品婷婷| 欧美性受xxxxx| 乱色欧美| 99热在线播放| 国产成人无码精品久久久免费| 一级生活毛片| 99精品国产九九国产精品| 国产成人jvid在线播放| 又黄又爽的视频在线观看网站| 日日干夜夜艹| 国产精品九九热| 69xx视频在线观看| 不卡精品视频| 国产av无码专区亚洲awww| 国产成人精品在线| 亚洲综合电影小说图片区| 最近中文字幕2019在线一区| 无码日日模日日碰夜夜爽| 亚洲成国产人片在线观看| 国产精品一区二区手机在线观看| k8yy毛片| 极品白嫩的小少妇avove| 一区二区亚洲精品国产片| 国产成人精品免费久久久久| 香蕉视频官网| 午夜国产精品视频在线| 337p日本大胆欧美人视频| 日本亚洲最大的色成网站www| 亚洲色图20p| 精品久久a| 永久免费的污视频网站| 在线一二区| 九一亚色视频| 国产亚洲网| 亚洲一级精品| 天天综合天天爱天天做| 日韩一区二| 99热只有这里有精品| 99久re热视频这里只有精品6| 粗大的内捧猛烈进出在线视频| 日韩人妻中文无码一区二区三区 | 99热在线只有精品| 91精品国产综合久久久久久丝袜 | 精品国产鲁一鲁一区二区三区| 亚洲一区网站| 色噜噜亚洲精品中文字幕| 亚洲 欧美 制服 中文字幕| 特黄1级潘金莲| 美日韩在线视频| 人人玩人人添人人澡超碰偷拍| 88国产精品欧美一区二区三区| 欧美国产在线看| 热久久久久久久久| 亚洲黄a| 97超碰中文字幕| 欧美高清x| 日韩aaa久久蜜桃av| 国产亚洲91| 97超碰人人澡| 国产一区二区三区a| 国产成人午夜福利在线观看| 国产男女做爰免费网站| 亚洲国产av精品一区二区蜜芽| 欧美无吗| 日本又黄又爽又色又刺激的视频 | 欧美cccc极品丰满hd| 国产精品资源在线观看| 精品国产大片大片大片| 欧美日韩资源| 亚洲日韩中文字幕一区| 激情网婷婷| 欧美精品极品| 成 人 网 站 在线 看 免费| 久久久久久久香蕉| 黑人操白妞| 香蕉a视频| av在线免播放器| 毛片一区| 香蕉久久夜色精品国产尤物| 黄色理伦| 草草影院国产第一页| 91爱爱com| 日韩在线第二页| 肉丝美足丝袜一区二区三区四| 亚洲精品视频免费| 亚洲乱码1卡2卡3乱码在线芒果| 黑人狂躁曰本人aⅴ| 天堂网站| 国产午夜不卡av免费| 伊人成综合| 日韩在线高清视频| jizzjizz国产精品喷水| aa成人免费视频| 成人免费毛片xxx| 色视频网| xxx18hd国语对白| 日韩有码视频在线| 国产精品一区二| 99精品视频在线播放免费| 午夜理论片福利在线观看| 亚洲一区二区无码偷拍| 黄网在线观看免费网站| 亚洲精品无码成人aaa片| 狠狠色婷婷久久综合频道毛片| 麻豆视传媒官网免费观看| 日本视频在线看| 国产 欧美 精品| 日韩精品第一| 中文有码视频在线播放免费| 国产综合自拍| 97caoporn| av操操操| 97影视| 先锋av网| 欧美z○zo变态重口另类黄| 国产人无码a在线西瓜影音| 一级片网址| 日韩在线一区二区| 国产免费mv大全视频网站| 国产美女视频免费观看的网站| 真实乱子伦露脸自拍| 久久久久不卡| 日本免费大黄在线观看| 二区在线播放| 超碰中文在线| 亚洲日本中文字幕在线| 一区三区在线专区在线| 国产精品无码一区二区在线看| 亚洲国产精品久久久天堂麻豆宅男| 黄三级| 国产91啦| 天堂网av在线播放| a√视频在线观看| 粉嫩久久99精品久久久久久夜| 久久久久欧美精品| 国产精品制服丝袜白丝| 亚洲国产精品一区二区美利坚| 欧美性网站| 亚洲国产精品va在线播放| 亚洲图片在线观看| 国产精品久久久一区麻豆最新章节 | 亚洲色av影院久久无码| 国产无限制自拍| 久久这里只有是精品23| 国精品人妻无码一区二区三区蜜柚| 日本一级做a爱片野花| 国产亚洲精品第一综合另类灬| 精品乱码一区内射人妻无码| 岛国av无码免费无禁网站麦芽| 忘忧草社区在线资源www| 国产精品va在线播放我和闺蜜| 无码h肉男男在线观看免费| 99视频30精品视频在线观看| 中文字幕国产亚洲| 欧美黄网站色视频免费| 91青青视频| 三级黄色片免费| 青青草狠狠爱| 亚洲黄色a级片| 欧美日韩亚洲国内综合网38c38| 久久精品首页| 天天干视频在线| 一级做a爰片久久毛片潮喷动漫| 自拍毛片| 亚洲性色av性色在线观看| 特级a欧美做爰片三人交| 日韩欧美精品免费| 三级毛片在线播放| 成人av久久一区二区三区| 17c在线视频| 欧美色狠| 久久精品99久久香蕉国产 | 中文字幕日韩在线视频| 日本成人中文字幕| 国产一级淫片a视频免费观看| 黄色免费大片| 日韩网站在线播放| 亚洲视频国产| 黄av网| www.嫩草蜜桃| 成人51网站| 午夜国产视频| 夜夜夜夜bbbbbb欧美| 深夜视频在线播放| 国产中文字幕第一页| 九九九热| 国产热99| a中文在线| av无码东京热亚洲男人的天堂| 五月婷婷狠狠爱| 超清无码av最大网站| av午夜在线观看| 久久久亚洲天堂| 麻豆视| 国产免费看插插插视频| 少妇精品无码一区二区三区 | 亚洲欧美日韩v在线播放| 国产亚洲日韩一区二区三区| 欧美真人性做爰一二区| 色综合加勒比| 永久免费毛片在线播放| 欧州一区| 伊人22| 九九久re8在线精品视频| 欧美日韩成人一区二区| 人妻少妇精品视频一区二区三区| 国产久免费热视频在线观看| 国产性夜夜春夜夜爽1a片| 福利视频一区二区三区| 在线看91| 国产在线拍揄自揄拍无码| 久久精品视频99| 歪歪爽蜜臀av久久精品人人| 亚洲爆乳精品无码一区二区| 97视频免费在线观看| 在线永久免费观看黄网站| 亚洲第一色在线| 欧美精品福利视频| www.国产精品| 免费高清毛片无遮挡| 亚洲欧美日韩国产精品一区午夜| 久久久久久成人毛片免费看| 少妇白浆呻吟爽| 久久久成人免费| 精品国产亚洲一区二区三区在线观看| 美女一区二区三区四区| 欧美成人aaaaⅴ片在线看| 91av免费| 日韩精品高清在线| 亚洲最大无码中文字幕网站| 国产毛片精品av一区二区| 成人在线精品视频| 无码中文资源在线播放| 久久久国产精品消防器材| 91啦国产| 波多野结衣在线播放| 调教女少妇二区三区视频| 好吊射视频988gaocom| 久久综合精品国产一区二区三区无| 久久爽精品区穿丝袜| 日韩欧美精品有码在线| 国产又粗又黄又爽| 日韩毛片子| 色视频在线观看网站| 国产午夜精品一区二区三区视频| 国产精品夜夜| 久久国产欧美| 亚洲人成未满十八禁网站| 国产国产裸模裸模私拍视频| 一区二区三区视频在线播放| 夜夜欢性恔真人免费视频| 五月婷网站| 国语对白少妇×××bbb| 美女100%露胸无遮挡| 国产v在线在线观看视频| 好吊妞视频988在线播放| 波多野结衣有码| 国产一二在线| 2021亚洲爆乳无码专区| 国产精选免费进入| 视频国产一区| 人妻有码中文字幕| ass东方小嫩模pics| 一本大道大臿蕉视频无码| 狠狠干超碰| 3d成人精品动漫视频在线观看| 国产日韩久久久久| 玖玖爱在线观看| 婷婷色av| 五月天婷婷导航| 孕妇性开放bbwbbwbbw| 美女考逼| 18禁成人网站免费观看| 视频在线不卡| 爱爱视频在线免费观看| a视频在线免费观看| 动漫高h纯肉无码视频在线观看| 深夜福利院| 波多野结衣中文字幕一区二区三区 | 性——交——性——乱免费的 | 九九精品视频免费| 欧美综合色| 九九久久九九久久| 加勒比综合| 国产在线播放一区二区三区| 三级经典三级日本三级欧美 | jizzxxxx18高清喷水| 国产乱子伦农村叉叉叉| 美女网站黄频| 伊人999| 成人性调教91| 国产操片| 91欧美在线| 午夜国人精品av免费看| 欧美在线免费观看| 国产精品新婚之夜泄露女同| 国产又粗又深又猛又爽又在线观看| www.伊人.com| 精品国产乱码久久久久久浪潮| 色噜噜狠狼综合在线| 久久tv中文字幕首页| 人乳喂奶hd播放| 二区欧美| 天堂av网手机版| 97干干| xxxx999| 日韩伦乱| av色噜噜| 国产亚洲精品自拍| 色哟哟国产| 亚洲欧美日韩综合久久久| 黄色毛片视频校园交易| 日韩中出| 国产精品久久久久久久久久软件| 日韩黄色一级| 中文字幕日韩三级| 国产伦子伦视频在线观看| 日韩高清在线观看永久| 国产 精品 日韩| 欧美1314| 亚洲综合无码日韩国产加勒比| 深夜爽爽动态图无遮无挡| 国产在线 | 中文| 人妻在厨房被色诱 中文字幕| 亚洲人成日韩中文字幕不卡| 国产福利免费视频不卡| 深夜福利一区| 欧美在线成人影院| 亚洲免费中文字幕| 潘金莲激情呻吟欲求不满视频| 色噜噜在线观看| 天天做日日做天天添天天欢公交车 | 九九色视频| 久久婷婷五月综合国产尤物app| 国产高清视频在线观看| 国产成人mv视频在线观看| 成人av无码一区二区三区| 爱爱免费小视频| 精品视频网| 欧美亚洲高清国产| 撕开奶罩揉吮奶头高潮av| 色哟哟国产精品色哟哟| 久久日本三级韩国三级| 欧美日本国产欧美日本韩国99| 婷婷国产v亚洲v欧美久久| 上司的丰满人妻中文字幕| 欧美成人第一页| 日韩欧美日本| 无码熟妇αⅴ人妻又粗又大| 四虎网站在线| 最新无码专区视频在线| 五月天婷婷在线视频| 欧美日韩视频| 日批免费观看| 香蕉久久国产超碰青草| 国产综合图区| 丰满少妇理论片bd高清| 美女一区二区三区| 熟女人妻av完整一区二区三区| 日韩高清黄色| 男人和女人高潮做爰视频| 精品爆乳一区二区三区无码av| 欧美一级爱爱| 国产精品专区在线观看| 99热精这里只有精品| 中国国语毛片免费观看视频 | 91人人草| 无码人妻久久1区2区3区| 免费看国产一级片| 奇米影视888欧美在线观看| 中文字幕在线一区| 长腿校花无力呻吟娇喘| 人人干干人人| 韩国成人在线视频| 久久国产精品免费视频| 亚洲线精品一区二区三八戒| 久久久999精品| 深夜成人在线| 五月天视频网| 中日韩在线视频| 丁香五月欧美成人| 天堂综合网久久| 久久国产毛片| 国产真实伦种子| 超碰cao已满18进入离开官网| 超碰pron| 精品亚洲国产成人av在线时间短的| 伊人精品成人久久综合软件| 妺妺窝人体色www婷婷| 忘忧草www中文在线资源| 看毛片视频| 伊人久久无码大香线蕉综合| 5566先锋影音夜色资源站在线观看| 成人一区二区免费中文字幕视频| 一二三区在线视频| 国内老女人偷人av| 亚洲乱人伦| 国模无码人体一区二区| 国产成人久久久精品免费澳门| 人人妻久久人人澡人人爽人人精品| 三级黄网站| 亚洲小说网| 亚洲国产av玩弄放荡人妇系列 | 欧美激情视频一区二区三区免费| 手机在线一区| 女同性av片在线观看免费网站| 一区精品二区国产| 美女av网站| 国产黄色小网站| 中国极品少妇videossexhd| 国产成人一级| 4hu四虎永久在线影院| 51国产视频| 无码人妻久久1区2区3区| 久久人人爽人人爽人人片av| 国产三a级三级日产三级野外| 精品无码国产日韩制服丝袜| 欧美大胆作爱视频欣赏人体| 天天色综合天天色| 91精品国产91综合久久蜜臀| 49vv看片免费| 天天躁日日躁很很躁2022| 国产欧美综合在线| 性欧美激情aa片在线播放| av作品在线| 色视频在线观看视频| 亚洲欧美闷骚少妇影院| 一级黄色a毛片| 欧洲无码精品a码无人区| 亚洲欧美自偷自拍视频图片| 免费精品99久久国产综合精品| 欧美交a欧美精品喷水| 国产精品无码翘臀在线看| 国产精品美女久久久网站动漫| 97久久香蕉国产线看观看| 无码av动漫精品一区二区免费| www.啪啪.com| www福利视频| 一a级毛片| 妇乱子伦精品小说网| 亚洲欭美日韩颜射在线| 国产痴汉av久久精品| 国产精品无码久久综合网| 巨胸喷奶水www视频网站| 国产第四页| 免费一级做a爰片性视频| 狠狠色噜噜狠狠狠狠色综合久av| 亚洲色婷婷六月亚洲婷婷6月| 日本亚欧热亚洲乱色视频| 少妇人妻14页_麻花色| 老子午夜精品888无码不卡| 日韩 欧美 亚洲 国产| 亚洲成成品牛牛| www五月婷| 狠狠综合久久av一区二区| 日本www高清视频| 国产精品少妇| 亚洲一线二线三线品牌精华液久久久 | 亚洲精品无码久久久影院相关影片 | 国产免费不卡av在线播放| 久久99精品国产麻豆| 91九色视频在线| 中老年熟妇激情啪啪大屁股| 少妇4p| 国产igao为爱做激情国外| 日日摸夜夜添夜夜添欧美毛片小说| 日本三级一区二区三区| 日韩视频免费播放| 精品国产一区二区三区久久| 天堂资源| 欧美人与物videos另类| 澳门永久av免费网站| 亚洲国产欧美在线成人app | 男女爆操视频| av在线 高清不卡区| 国产又黄又湿| 欧美日韩首页| 亚洲国产精品无卡做爰天天| caopor在线视频| 天堂中文av在线| 麻豆国产尤物av尤物在线看| 国产区亚洲区| 日韩亚洲一区二区三区| 40岁丰满东北少妇毛片| 成人第四色| 欧美成人ⅴideosxxxxx| 西西人体www303sw大胆高清| 国产美女精品自在线拍| 日本黄色xxxx| 寂寞少妇让水电工爽hd| 91啦国产| 国产美女爽到尿喷出来视频| 青草伊人久久综在合线亚洲| 国产又爽又黄又刺激的视频 | 国产精品情侣高潮呻吟| 激情五月婷婷色| 中文字幕精品久久一二三区红杏| av资源天堂| 精品国产av 无码一区二区三区 | 中文字幕精品av一区二区五区| 亚洲精品成人cosplay| 夜夜爱夜夜做夜夜爽| 日韩色在线| 国产无夜激无码av毛片| 国产成人无码18禁午夜福利免费| 精品一区二区av天堂| 欧美碰碰碰| 欧美日激情日韩精品嗯| 青青99| 久久嫩| 国产又粗又黄又爽| 欧美色欲色欲xxxxx| 一区二区三区欧美视频| 成人黄色免费视频| 人妻无码熟妇乱又伦精品视频| 欧美色欧美亚洲另类七区| 日本xxxxxⅹxxxx69| 一级国产精品| 色狠av| 五月丁香激激情亚洲综合| 亚洲国产制服丝袜无码av| 深夜在线观看| 亚洲毛片在线播放| 久久久无码精品亚洲日韩啪啪网站| 天天操天天射天天爽| 亚洲欧美激情图片| 国产国拍亚洲精品| 国产极品jk白丝喷白浆图片| 欧美天堂一区二区三区| V 国产网友自拍在线视频| 国产v在线| se69色成人网wwwsex| av在线片| 免费亚洲视频| 亚洲成熟丰满熟妇高潮xxxxx | 91久久精品www人人做人人爽| 亚洲国产成人影院播放| 成年片黄色日本大片网站视频| 欧美日色| 日韩特级片| 成人性生交大全免| 伊人色综合久久天天网| 伊人依成久久人综合网| 欧美国产国产综合视频| 久久99婷婷国产精品免费| 国产av亚洲精品久久久久久| 一二三区视频| 国产国拍亚洲精品永久软件| 国产精品人成视频免| 91视频免费观看网站| 亚洲资源av| 久久精品av麻豆| 成人性生交大片免费看小说| 国产福利网站| 成人性生生活性生交全黄| 成人性动漫| 国产视频一二区| 久久99精品久久久久子伦| 国产乱老熟视频网88av| 97超碰伊人| 熟妇熟女乱妇乱女网站| 国内自拍欧美| 色av影院| 国产精品久久久久久人妻精品| 国产69久久久欧美一级| 夜夜草视频| 超碰97观看| 96视频在线| 欧美黑人粗暴多交高潮水最多| 女同av亚洲女人天堂| 精品日本一区二区三区免费| 性欧美ⅹxxxx极品少妇小说| 伊人久久大香线蕉无码不卡| 欧美极品三级| 午夜精品久久久久久久传媒| av卡一卡二| 97爱爱视频| 日日做夜夜爽毛片麻豆| 最新超碰在线| 成年男女免费视频网站| 婷婷色在线| 亚洲三级一区| 无码精品国产一区二区免费| 亚洲一卡2卡3卡4卡 精品| 日韩在线不卡av| 国产精品美女久久久久aⅴ国产馆| aaaaa黄色片| 日韩经典中文字幕| 午夜爱爱影院| 久久久久精| 国产放荡对白视频在线观看| 熟妇乱子作爱视频大陆| 男人添女荫道口视频a| 93精品国产乱码久久久| a∨无码天堂av| 色中文在线| 国产一区二区三区自产| 福利网站在线| 久久69av| 亚洲色无码中文字幕yy51999| 黄色av免费看| 99干99| 国产无区一区二区三麻豆| 麻豆视频网址| 国产午夜手机精彩视频| av二区在线| 一区二区精品久久| 欧美日韩久久精品| 亚洲国产精品尤物yw在线观看| 欧美成人精品一区二区三区在线看| 国产精品久久久久久久av| 爱情岛论坛亚洲品质自拍视频| 午夜精品免费观看| 国产 日韩 欧美 视频 制服| 亚洲情xo亚洲色xo无码| 国产999视频| 午夜理论片yy4080私人影院| 色偷偷av男人的天堂京东热| 国产在线观看你懂的| 久久国产劲暴∨内射| 午夜青青草| 免费日批网站| a级黄色小说| 丰满的少妇hd高清中文字幕| av解说在线| 色天使亚洲综合一区二区| 青青草操| 色多多福利网站免费破解 | 亚洲福利在线播放| www17ccom小草影视| 日本极品丰满ⅹxxxhd| 波多野结av在线无码中文| 亚洲涩涩涩| 欧美成aⅴ人高清怡红院| 91高跟黑色丝袜呻吟在线观看| 午夜免费福利视频| 亚洲aaa视频| 爱情岛论坛亚洲首页入口章节| 久久桃花网| 香蕉视频| 麻豆av一区二区| 在线观看中文字幕码 | 一本大道大臿蕉无码视频| 中国国产1级毛卡片| 国产美女遭强高潮网站观看| 女女女女女裸体开bbb| 久久久经典| 激情五月五月婷婷| 久久人人爽亚洲精品天堂| 亚欧成人| 亚洲男人天堂2023| 极品白嫩高潮呻吟喷水av| 国产精品无码免费专区午夜| 亚色中文字幕| 亚洲成a人片在线观看无遮挡| xxxx日本免费| 亚洲欧美日韩国产手机在线| 女人特黄大aaaaaa大片| 亚洲福利av| 免费一级片网址| 天天干天天弄| 亚洲一区二区三区乱码aⅴ蜜桃女| 亚洲中文久久精品无码99| 男女做爰猛烈吃奶摸九色| 国产成人无码va在线播放| 久久久亚洲裙底偷窥综合| 日韩欧美三级在线| 青青艹在线视频| 囯产精品久久久久久久久久妞妞 | 国产成人啪精品午夜网站| 亚洲专区在线| 懂色av懂色aⅴ精彩av| 精品国产三级a∨在线| 18禁无遮挡肉动漫在线播放观看 | 无码专区―va亚洲v专区在线 | 亚洲色偷精品一区二区三区| 一区在线观看视频| 五月天色站| 国产一卡二| 1024久久| 风间由美性色一区二区三区四区| 精品久久久久久国产偷窥| 麻婆豆传媒一区二区三| www.youjizz.com亚洲| 国产精品sss| 绿帽在线观看99av| 91尤物在线| 国产成人精品无码免费看| 狠狠操夜夜| 国产天堂123在线观看| 狠狠色狠狠人格综合| 台湾佬久久| 东京热人妻丝袜av无码| 97综合网| 欧美综合自拍亚洲图久青草| 国产刺激出水片| 成人午夜影片| 国产精品久久久久久av| 亚洲精品www| 97国产精华最好的产品亚洲| 欧美精品欧美极品欧美激情| 亚洲第七页| 人人妻人人澡人人爽精品日本| 2024国产精品自拍| 变态另类牲交乱| 伊人久久大香线蕉亚洲| 人妻国产成人久久av免费高清| 在线观看黄色国产| 国产精品成人无码久久久久久| www.久久爱.com狼人| 蜜桃av久久久一区二区三区麻豆| 最新亚洲人成网站在线观看| 成人免费在线视频网站| 黄色成人一级片| 日本欧美色图| 毛片免费视频肛交颜射免费视频| 天堂a视频| 日批视频免费观看| 久久免费午夜福利院| 激情网站在线| 国产视频大全| 伊人365| 永久中文字幕免费视频网站| 国产亚洲小视频| 欧美xxxx做受老人国产的| 成人伊人亚洲人综合网站| 精品亚洲成a人在线观看| 亚洲日本中文字幕| 国产精品制服诱惑| 成人免费午夜视频69影院| 久久五月综合| 成人国产一区二区三区精品麻豆| 国产成人av在线免播放app| www.黄色大片| 国产精品久久精品三级| 黄色精品网站| 好男人社区资源| 国产97碰免费视频| 亚洲午夜av| 啪啪免费网站| 国产性生交xxxxx免费| 488成人啪啪片| 成人看片17c.com| 丝袜+亚洲+另类+欧美+变态| 色91av| 久久精品免视看国产成人| 国产无夜激无码av毛片| 亚洲欧美综合精品另类天天更新| 四虎新网址| 中文字幕dvd| 亚洲午夜成人精品无码色欲| 色图一区| 久久精品h| 六月丁香婷婷激情| 富婆xxxxx性猛交hd| 岛国一区二区| 日韩午夜视频在线| 欧美理论视频| 日韩精品无码久久久久久| 国产真实迷奷在线播放| 91精品国产91综合久久蜜臀| 秋霞网久久| 亚洲h视频| 色鬼7777久久| 亚洲男女啪啪| 国产精品99久久久久久一二区| 国产玖玖玖玖精品电影| 欧美一区二区高清| 污污网站在线播放| 中国videosex高潮喷水| 18成人在线观看| 久久一区二区三区四区| 亚洲天堂色图| jizzjizz亚洲| 岛国黄色片| 国产精品无圣光| aaaaa黄色片| av看片在线| 精品亚洲综合成人网| 伊人成综合网| 国产av无码专区亚洲草草| 国产欧美精品在线| 91天天综合| 国产高清999| 日日操夜夜干| 人妻夜夜爽天天爽一区| 韩国伦理中文字幕| 欧美视频一区二区三区四区在线观看| 伊人久久一区| 男女做爽爽爽网站| 无码男男作爱g片在线观看| 亚洲午夜理论片在线观看 | 黄色日韩| 亚洲五月天综合| 亚洲天堂2024| 亚洲综合影院| av激情亚洲男人的天堂国语| 蜜臀av人妻国产精品建身房| avtt在线| 99国产精品免费| 在线视频资源| 久久毛片基地| 91porny真实丨国产18| 久久男人av资源网站无码软件| 亚洲在线一区二区三区| 色偷偷色噜噜狠狠网站30根| 日韩欧美一区二区三区四区五区| 99re这里只有精品在线| 欧美影院在线观看| 超乳hitomi在线播放痴汉| 中文字幕在线免费视频| 丰满岳乱妇在线观看中字| 黄色福利网站| 五月婷婷久| 91香草视频| 黑人狂躁日本妞一区二区三区| 欧美在线视频不卡| 日韩作爱视频| 中文字幕精品三级久久久| 欧洲国产精品无码专区影院| 亚洲男人天堂2019| 蜜桃av蜜臀av色欲av麻| 蜜桃精品久久久久久久免费影院 | 四虎成人精品一区二区免费网站| 国产一区二区在线视频| 中文字幕一区二区人妻性色| 日韩欧美中文字幕一区二区三区| 97人妻人人做人碰人人爽| 国产骚b| 亚洲男人天堂网2014av| 精品免费在线| 国内av免费| 看a网站| 久久精品免费一区二区喷潮| 国产97免费视频| 亚洲偷| 诱人的奶水h男| 天天插综合| a级黄色录像片| 日韩xx视频| 国内免费毛片| 无码精品人妻 中文字幕| 久久天天综合桃花久久| 国产伦精品一区二区三区照片| 亚洲码国产岛国毛片在线| 内射欧美老妇wbb| 欧美日韩美女| 人妻换人妻仑乱| 婷婷成人五月综合激情| 国产成熟人妻换╳╳╳╳| 成人毛片100部免费看| 在线看日本| 国产欧美一区二区白浆黑人| 亚洲国产久| 亚洲精品尤物| 调教女少妇二区三区视频| av大片在线无码免费| 未满成年国产在线观看| 欧美激情亚洲综合| 国产盗拍sap私密按摩视频| 久久久久国产精品人妻aⅴ免费| 人人玩人人添人人澡| 欧美亚洲天堂网| 欧美另类在线观看| 日本高清视频一区| 免费看av软件| 羞羞视频在线观看免费| 亚洲欧美日本国产mag| 玩弄人妻少妇500系列视频| 91一区二区三区久久久久国产乱| 韩国黄色网址| 日本一卡2卡三卡4卡免费网站| 亚洲久草视频| 任你躁久久久久久妇女av| 欧美日韩不卡在线视频| 荷兰女人裸体性做爰| 国产人妻精品一区二区三首| 天堂欧美城网站网址| 极品人妻少妇一区二区三区 | 国产黄色av| 120秒试看无码体验区| 亚洲精品国产二区图片欧美| 国产成人美女视频网站| 99精品热6080yy久久日韩| 无码中文av波多野吉衣迅雷下载| 国产拍拍拍无遮挡免费| 久久av资源站| xxxx视频在线观看| 日韩在线一卡| 十八禁在线观看视频播放免费| 鲁死你av资源站| 日本人妻伦在线中文字幕| 国产二级av| www.蜜臀| 久久婷婷精品一区二区三区日本| 人人射人人爱| 免费在线欧美| 日韩av无码免费播放| 亚州国产| 中文字幕超清在线免费| 欧美 日韩 精品| 国产自产对白一区| 韩国毛片基地| 九九国产精品入口麻豆| 亚洲精品噜噜丝袜区精品| 天天看天天射| 国产中文一区二区三区| 华人在线视频| 国产传媒一区二区| 久久久精品国产sm调教| 小明看平台日韩综合45页| 108种啪姿势大全动态图| 麻豆国产av超爽剧情系列| 国产乱码人妻一区二区三区四区| 爱做久久久久久| 亚洲美女色视频| 又色又爽又黄18禁美女裸身无遮挡| wwwav在线视频| 亚洲欧美日韩精品在线| 麻豆出品| 午夜性色吃奶添下面69影院| 国产精品美女久久久久久麻豆| 亚洲视频1区| 成人天堂婷婷青青视频在线观看| 日本免费福利视频| 国产高潮久久久久久绿帽| 九九看片| 久久久久久久岛国免费网站| 亚洲男人的天堂在线视频| 中文字幕人成人乱码亚洲电影| 天天人人综合| 国产在线视频99| av永久免费在线观看| 久草资源网| 欧美性tv| 84pao国产成视频永久免费| 日韩精品极品视频在线观看免费| 性欢交69国产精品| 全黄h全肉边做边吃奶视频| 国产在线成人一区二区三区| 97在线观看免费观看| 成人在线观看国产| 国产熟妇乱子伦视频在线观看| 日本道色综合久久影院| 国产在线视频网站| 乱视频在线| 8x国产精品视频| 日韩欧美在线一区| 亚洲最大成人网 色香蕉| 7777色鬼xxxⅹ欧美色妇| 99久久精品无码一区二区毛片| 靠逼网站在线观看| 99精品无人区乱码在线观看| 老湿福利影院| 少妇性饥渴无码a区免费| 久久不见久久见免费影院3| 欧美饥渴熟妇高潮喷水水| 免费看国产zzzwww色| 丝袜五月天| 美丽肉奴隷1986在线观看| 精品三级久久久久电影我网| 97在线看免费观看视频在线观看| 国产成人一区二区无码不卡在线| 久久国产高清| 国产jizz18高清视频| 自拍 另类 综合 欧美小说 | 午夜黄色影院| 欧美高清熟妇啪啪内射不卡自拍| 天天干天天操天天爱| 日本福利一区二区| 国产精品高潮呻吟av久久动漫| 日韩激情小视频| 91干干干| 五月天丁香社区| 老司机在线免费视频| 国产中年夫妇交换高潮呻吟| 国产在线无码制服丝袜无码 | 免费视频欧美无人区码| 91丨九色丨国产| 国产综合一区二区三区黄页秋霞| 国产日韩精品欧美一区喷水| 无码h肉男男在线观看免费| 精品久久一二三区| 国产精品爽爽va在线观看无码| 日本中文字幕人妻不卡dvd| 亚洲精品一区二区三区h| 日本少妇激情舌吻| 91久操| 成人亚洲综合| 色午夜婷婷| 绯色av蜜臀一区二区中文字幕| 69久久夜色精品国产69乱青草| 亚洲天堂资源在线| 96亚洲精品久久| 免费人成视频在线视频网站| 日本不卡在线播放| 国产一二三四区乱码免费| 国产精品初高中害羞小美女文| 亚洲v在线观看| 老司机久久99久久精品播放| 色婷婷综合久久中文字幕雪峰| 免费看日产一区二区三区| 内射国产内射夫妻免费频道 | 秋霞最新高清无码鲁丝片| 99热这里只有精品18| 99热久久成人免费频精品2| 69视频在线播放| 亚洲春色在线| 亚洲欧美日韩_欧洲日韩| 欧美乱大交xxxxx春色视频| 精品久久久久一区| 香蕉视频一级片| 巨肉高h文从头做到尾肉短文| 无遮挡做爰激吻国产999| 超碰精品在线| 又大又黄又爽视频一区二区| 成人一级黄色毛片| 99久久无码一区人妻a黑| 三级精品在线| 国产又猛又黄又爽| 粉嫩av一区二区三区在线观看| 少妇av导航| 久久精品熟女亚州av麻豆| 国产麻豆精品视频| 国产国拍亚洲精品mv在线观看| 亚洲 欧洲 日韩 综合色天使| www..com国产| 国产午夜亚洲精品理论片八戒| 欧美一级成人| 国产r级在线| 欧美在线国产| 国产真实乱对白精彩久久老熟妇女| 亚洲精品国产精华液| 肉嫁高柳家在线看| 久久九| 最新国产乱人伦偷精品免费网站| 国产寡妇树林野战在线播放| 97夜夜澡人人爽人人喊91洗澡| 自偷自拍亚洲综合精品| 91久久精品一区二区| 国产区在线观看视频| 97在线播放视频| 性一交一无一伦一精一品| 中文字幕丰满乱子伦无码专区| youjizz韩国| 国产一区二区av在线| 国精品午夜福利视频不卡| 少妇激情一区二区三区视频| 久亚洲一线产区二线产区三线产区| 性猛交ⅹxxx富婆video| 亚洲大色堂人在线无码| 国产精品久久久久婷婷| 欧洲精品va无码一区二区三区| 黄色三级免费| 久热青草| 又大又爽又黄无码a片| 黑人巨大跨种族video| 国产在线观看你懂的| 国产毛1卡2卡3卡4卡免费观看| 欧美日韩在线免费观看视频| 国产精品视频久久久久| 青春草国产视频| 国产一级淫片s片sss毛片s级| 96久久欧美麻豆网站| 全国最大的成人网| 久久一区二区三| 天天色官网| 黄色长视频| 又硬又水多又坚少妇18p| 国产成人精品亚洲日本语言| 精品欧美久久久| 懂色av一区二区在线播放| 无码免费一区二区三区免费播放| 国产成人精品福利一区二区| av图区| 国产麻豆视频| 秋霞av一区二区二三区| 无码丰满人妻熟妇区| a毛片成人| 欧美白人最猛性xxxxx| 一边啪啪的一边呻吟声口述| 吃奶揉捏奶头高潮视频| 在线视频 中文字幕| 中文字幕一区二区三区在线视频| 免费观看成年人视频| 久久亚洲精品无码观看网站| 亚洲免费中文| 午夜精品久久久久久久四虎| 国产高清av久久久久久久| 91av日本| 国产成人不卡无码免费视频| 亚洲粉嫩高潮的18p| 91超碰免费| 国产精品18久久久久久首页狼| 美国免费黄色片| 日韩h在线观看| 欧美性做爰片免费视频看| 天天黄色片| 久久在线精品| 久久久精品国产99久久精品麻追| 最新在线中文字幕| 69欧美视频| 国产又黄又硬又粗| 亚洲成人视屏| 真人毛片一24| 日韩av线观看| 亚洲午夜成人精品电影在线观看| 国产手机视频在线| 亚洲精品成av人片天堂无码| 波多在线视频| 日本中文一区二区三区亚洲| 国产黄在线播放| 国产在线精品观看| 欧美偷拍一区二区三区| 久热在线视频| 午夜在线精品| 亚洲一区二区三区四区五区xx | 国精品午夜福利视频不卡757| 97se色综合一区二区二区| www色天使| 精品国产美女福到在线不卡| 日韩av手机在线播放| 久久久久久久99精品免费观看| 亚洲色图导航| 美女视频久久| 国产成人无码一区二区三区在线 | 毛片在线播放a| 久久久久久久久久久久久大色天下| 久久久久亚洲精品男人的天堂| av最新网| 特级西西444www大精品视频免费看 | 国产小视频在线观看免费| 欧洲亚洲另类| 好爽又高潮了毛片| 99热九九这里只有精品10| 免费av在线网址| 99国产精品99久久久久久娜娜| 999精品视频一区二区三区| av午夜影院| 麻婆豆传媒一区二区三| 日本人の夫妇交换| 天天色天天操天天| 免费极品av一视觉盛宴| jizz国产老头老太婆|