国产精品啪丨免费看国产曰批40分钟丨亚洲成人日韩丨欧美一区二区三区成人丨特级a欧美做爰片第一次丨少妇爽到呻吟的视频丨无码中出人妻中文字幕av丨少妇乱淫aaa高清视频真爽丨日本色网址丨日本免费一区二区三区视频观看丨国产视频在线一区二区丨久久综合国产乱子伦精品免费丨亚洲精品综合网在线8050影院丨国产精品被窝福利一区丨最新国产中文字幕丨欧美无乱码久久久免费午夜一区丨伊人久久九丨亚洲裸男自慰gv网站丨欧美刺激性大交亚洲丶日韩丨亚洲精品免费在线观看丨欧美女人天堂丨91精品久久久久久久久不口人丨丝袜国偷自产中文字幕丨人妻无码不卡中文字幕系列丨国语高潮无遮挡无码免费看

中國的物聯(lián)網(wǎng)安全:技術(shù)發(fā)展與政策建議

來源:未知 日期:2016-10-14 點擊:

  物聯(lián)網(wǎng)是信息技術(shù)發(fā)展到一定階段的產(chǎn)物,被稱為信息技術(shù)的第三次浪潮。物聯(lián)網(wǎng)無論在技術(shù)方面還是在產(chǎn)業(yè)方面都得到空前發(fā)展。相比全球情況,物聯(lián)網(wǎng)在國內(nèi)的發(fā)展異常迅速,在一些關(guān)鍵技術(shù)方面,中國位居世界前列。但是,如果物聯(lián)網(wǎng)系統(tǒng)的信息安全問題解決不好,將影響到物聯(lián)網(wǎng)產(chǎn)業(yè)的健康和可持續(xù)發(fā)展。本文首先分析物聯(lián)網(wǎng)安全研究的背景和意義,介紹國內(nèi)外在物聯(lián)網(wǎng)方面的發(fā)展情況和重視程度,闡述國內(nèi)的技術(shù)短板、國家對物聯(lián)網(wǎng)技術(shù)和產(chǎn)業(yè)的支持等情況,然后分析物聯(lián)網(wǎng)安全問題和技術(shù)挑戰(zhàn),從技術(shù)方面提出一些新觀點,最后提出一些技術(shù)發(fā)展思路和政策建議,希望能為物聯(lián)網(wǎng)產(chǎn)業(yè)和技術(shù)的發(fā)展提供一些有用的參考。
  
  武傳坤,中國科學院信息工程研究所研究員,北京匡恩網(wǎng)絡科技有限責任公司智能安全工業(yè)研究院副院長。研究方向為網(wǎng)絡空間安全。主要著作有《物聯(lián)網(wǎng)安全基礎(chǔ)》《物聯(lián)網(wǎng)技術(shù)概論》《物聯(lián)網(wǎng)行業(yè)應用基礎(chǔ)》等。
  
  物聯(lián)網(wǎng)是建立在互聯(lián)網(wǎng)基礎(chǔ)上的信息技術(shù)發(fā)展的一個新階段,它可以通過各種終端設(shè)備獲取對物理世界的感知信息,通過多種網(wǎng)絡將海量數(shù)據(jù)傳輸?shù)教幚碇行模缓筮M行智能處理,使人們可以在任何時候、任何地點,獲取任何自己權(quán)限范圍內(nèi)終端設(shè)備的有關(guān)數(shù)據(jù)和狀態(tài),實現(xiàn)虛擬世界和物理世界的有機結(jié)合。物聯(lián)網(wǎng)技術(shù)被認為是信息技術(shù)發(fā)展的第三次浪潮,將成為未來社會經(jīng)濟發(fā)展、社會進步和科技創(chuàng)新等最重要的基礎(chǔ)設(shè)施,給中國在這一新領(lǐng)域的發(fā)展創(chuàng)造了機會,同時也帶來很大的挑戰(zhàn)。
  
  在信息技術(shù)第一次浪潮來臨時,即電腦時代,計算機技術(shù)實質(zhì)性地解放了人們的腦力勞動,那時國內(nèi)的技術(shù)水平遠遠落后于歐美發(fā)達國家。在信息技術(shù)的第二次浪潮來臨時,即互聯(lián)網(wǎng)時代,互聯(lián)網(wǎng)技術(shù)可以實現(xiàn)數(shù)據(jù)和信息的異地共享,那時國內(nèi)的技術(shù)水平只能緊跟歐美發(fā)達國家。在今天的物聯(lián)網(wǎng)時代,我國與歐美發(fā)達國家相比,雖然整體上還有差距,但差距已遠小于之前的信息技術(shù)革命時代。總體上說,各個國家都站在與歐美發(fā)達國家基本相同的起點,因此只有奮起向前,才有機會位居世界前列,在國際科學技術(shù)和產(chǎn)業(yè)領(lǐng)域爭得更大的話語權(quán)和市場份額。其實,任何一項技術(shù)的應用都存在同樣的問題,無論超前發(fā)展,還是跟隨性發(fā)展,都有優(yōu)點和缺點。超前發(fā)展的缺點是,沒有別人的經(jīng)驗可以借鑒,在發(fā)展過程中難免會遇到技術(shù)難題,走很多彎路,浪費很多人力物力;但優(yōu)點是,在發(fā)展過程中會促進科學技術(shù)的進步,優(yōu)先占領(lǐng)產(chǎn)業(yè)市場(可能還包括國際市場),積累更多創(chuàng)新性自主知識產(chǎn)權(quán),在國際舞臺有更多的話語權(quán)。跟隨性發(fā)展的缺點在于核心知識產(chǎn)權(quán)是別人的,主要市場被別人占據(jù),在國際舞臺上很難爭得話語權(quán);但優(yōu)點是少走彎路,減少浪費。中國根據(jù)自己的情況,決定走超前發(fā)展的道路。
  
  我們看到,從“十二五”規(guī)劃到“十三五”規(guī)劃,國家制定了許多物聯(lián)網(wǎng)發(fā)展的優(yōu)惠政策,也拿出大量專用資金,支持物聯(lián)網(wǎng)技術(shù)和產(chǎn)業(yè)的發(fā)展。雖然某些方面的發(fā)展小于預期,但必須看到,我們在物聯(lián)網(wǎng)相關(guān)技術(shù)方面的發(fā)展是突出的,物聯(lián)網(wǎng)示范產(chǎn)業(yè)基地的建設(shè)更是突飛猛進。
  
  雖然物聯(lián)網(wǎng)產(chǎn)業(yè)和技術(shù)都在快速發(fā)展,但物聯(lián)網(wǎng)的安全問題卻日趨明顯。由于物聯(lián)網(wǎng)技術(shù)將虛擬世界與物理世界結(jié)合在一起,通過虛擬世界的數(shù)字信息就可以控制物理世界的關(guān)鍵設(shè)備甚至基礎(chǔ)設(shè)施,因此物聯(lián)網(wǎng)的安全問題所造成的危害比信息系統(tǒng)安全問題造成的危害更大。這里我們通過一個典型的物聯(lián)網(wǎng)入侵攻擊案例來說明物聯(lián)網(wǎng)安全問題的重要性。2015年12月23日下午,烏克蘭首都基輔部分地區(qū)和烏克蘭西部的140萬名居民突然發(fā)現(xiàn)家中停電。造成這次停電的原因是電網(wǎng)遭到了黑客攻擊。黑客首先操作惡意軟件將電力公司的主控電腦與變電站斷開,隨后又在系統(tǒng)中植入病毒,讓電腦全體癱瘓。與此同時,黑客還對電力公司的電話通訊進行了干擾,導致受到停電影響的居民無法和電力公司進行聯(lián)系。
  
  烏克蘭電網(wǎng)事件似乎離我們很遙遠,其實通過病毒或黑客入侵造成工業(yè)設(shè)施損壞的事件在我們身邊也頻繁發(fā)生,而且近幾年呈增長趨勢。一些攻擊手段表現(xiàn)出專業(yè)化團隊作戰(zhàn)的特征,各個國家也都提高了對網(wǎng)絡的安全防范意識,特別是在今天的物聯(lián)網(wǎng)時代,網(wǎng)絡入侵攻擊所造成的后果,遠不是竊取信息本身那么簡單,而是造成物理設(shè)施的破壞。面對物聯(lián)網(wǎng)市場飛速發(fā)展和物聯(lián)網(wǎng)安全問題日益嚴重的矛盾,物聯(lián)網(wǎng)安全技術(shù)的發(fā)展又將如何進行?相關(guān)政策的制定對物聯(lián)網(wǎng)安全技術(shù)的發(fā)展將起到至關(guān)重要的引導作用。
  
  物聯(lián)網(wǎng)的概念與內(nèi)涵
  
  物聯(lián)網(wǎng)概念的提出有多種來源,但最早以物聯(lián)網(wǎng)為題的年度報告應該是國際電信聯(lián)盟(ITU)發(fā)布年度報告《ITU互聯(lián)網(wǎng)報告2005:物聯(lián)網(wǎng)》。物聯(lián)網(wǎng)的概念提出之后,很多學術(shù)研究也很快在該領(lǐng)域開展,僅在2008年,就出現(xiàn)了以物聯(lián)網(wǎng)為專題的國際學術(shù)會議、專著和系列論文等。2009年,時任總理溫家寶視察無錫時提出感知中國概念,將國內(nèi)對物聯(lián)網(wǎng)的重視程度推向一個高潮。
  
  從技術(shù)上,物聯(lián)網(wǎng)就是通過傳統(tǒng)網(wǎng)絡平臺,主要是互聯(lián)網(wǎng),將物理世界的傳感器等設(shè)備連接起來,其目標是使任何人在任何時間和任何地點都有能力跟任何物理設(shè)備進行通信。換句話說,物聯(lián)網(wǎng)是傳統(tǒng)互聯(lián)網(wǎng)與物理設(shè)施的有機結(jié)合,是虛擬世界向現(xiàn)實物理世界的一種延伸。這種延伸改變了虛擬世界以信息為目標的保護手段,因此稱為第三次信息技術(shù)浪潮。
  
  物聯(lián)網(wǎng)沒有具體定義,經(jīng)過幾年的討論與論證,現(xiàn)在無論學術(shù)界還是產(chǎn)業(yè)以及政府管理部門,都基本接受如下的描述:物聯(lián)網(wǎng)的基本架構(gòu)包括三個邏輯層,即感知層、網(wǎng)絡傳輸層、處理應用層。感知層由傳感器和RFID等設(shè)備組成,包括傳感器節(jié)點和數(shù)據(jù)匯聚節(jié)點(也稱感知層網(wǎng)關(guān)節(jié)點),以及在感知層進行短距離數(shù)據(jù)傳輸?shù)臒o線網(wǎng)絡,其任務是采集周圍物理環(huán)境的信息,包括自身身份信息(對RFID標簽來說),并將感知數(shù)據(jù)進行上傳;網(wǎng)絡傳輸層的任務是將這些感知數(shù)據(jù)通過傳統(tǒng)的網(wǎng)絡基礎(chǔ)設(shè)施傳輸?shù)竭h程的處理中心;處理應用層則對收到的海量數(shù)據(jù)進行智能處理,提供給用戶使用。事實上,物聯(lián)網(wǎng)的傳輸層就是我們傳統(tǒng)的網(wǎng)絡,包括互聯(lián)網(wǎng)和移動網(wǎng)絡,而移動網(wǎng)絡的最終連接形式還是通過互聯(lián)網(wǎng),因此傳輸層是以互聯(lián)網(wǎng)為核心的通信網(wǎng)絡。處理應用層實際是數(shù)據(jù)處理中心,當數(shù)據(jù)量很大時,能夠支撐大數(shù)據(jù)處理的(物聯(lián)網(wǎng)中強調(diào)智能處理)一般是云計算平臺,因此物聯(lián)網(wǎng)的處理應用層一般指云平臺,包括公有云和私有云。物聯(lián)網(wǎng)的網(wǎng)絡傳輸層和處理應用層都屬于傳統(tǒng)信息系統(tǒng)中的組成部分,所不同的是規(guī)模上較傳統(tǒng)信息系統(tǒng)有更高的要求,例如傳輸更可靠、處理更智能等。而物聯(lián)網(wǎng)的感知層才是區(qū)別傳統(tǒng)信息系統(tǒng)與物聯(lián)網(wǎng)系統(tǒng)的根本要素,也是將虛擬世界與現(xiàn)實物理世界相結(jié)合的關(guān)鍵部分。后面我們會談到,在物聯(lián)網(wǎng)安全問題上,感知層的安全問題是整個物聯(lián)網(wǎng)系統(tǒng)安全的技術(shù)瓶頸。
  
  為了更好地理解什么是物聯(lián)網(wǎng),我們看一下一種典型的物聯(lián)網(wǎng)行業(yè)應用:智能家居系統(tǒng),如圖1所示。
  
  在智能家居系統(tǒng)中,有很多的傳感器,用于感知室內(nèi)溫濕度、光照、噪音、有害氣體(如燃氣檢測)、設(shè)備狀態(tài)(如冰箱內(nèi)溫度)、電子開關(guān)(如家用電器開關(guān)、照明燈開關(guān)、空調(diào)開關(guān)等)、視頻監(jiān)控等,這些設(shè)備將感知數(shù)據(jù)(包括電子開關(guān)的狀態(tài)信息)通過一個與互聯(lián)網(wǎng)或移動網(wǎng)絡連接的家庭網(wǎng)關(guān)(即數(shù)據(jù)匯聚節(jié)點)上傳到運營商的一個數(shù)據(jù)平臺,運營商的數(shù)據(jù)平臺對這些數(shù)據(jù)進行處理,將處理結(jié)果發(fā)給用戶終端(如智能手機),這就完成了數(shù)據(jù)上傳和應用過程。另一方面,用戶可以對傳感器進行控制,例如從用戶終端發(fā)送指令,該指令通過運營商的數(shù)據(jù)平臺和互聯(lián)網(wǎng)傳給用戶的家庭網(wǎng)關(guān),然后家庭網(wǎng)關(guān)將該指令發(fā)送給具體的傳感器設(shè)備,該指令可以控制傳感器設(shè)備,也可以控制開關(guān)設(shè)備。這就是一個典型的物聯(lián)網(wǎng)行業(yè)應用系統(tǒng)。其他物聯(lián)網(wǎng)行業(yè)還有很多類似系統(tǒng),包括智能電網(wǎng)、智能管網(wǎng)、智慧醫(yī)療、智能交通、智能農(nóng)業(yè)、智能工業(yè)等等,這些不同應用領(lǐng)域的物聯(lián)網(wǎng)系統(tǒng)在架構(gòu)上有很大的相似之處。
  

 中國的物聯(lián)網(wǎng)安全:技術(shù)發(fā)展與政策建議
 
  
  中外物聯(lián)網(wǎng)發(fā)展政策比較
  
  隨著信息技術(shù)日新月異的發(fā)展,特別是信息采集、傳輸技術(shù)及高性能計算機的迅速發(fā)展和互聯(lián)網(wǎng)與移動通信網(wǎng)的廣泛應用,大規(guī)模發(fā)展物聯(lián)網(wǎng)及相關(guān)產(chǎn)業(yè)的時機日趨成熟,歐美等發(fā)達國家將物聯(lián)網(wǎng)視為未來發(fā)展的重要領(lǐng)域。2009年以來,美歐日等發(fā)達國家紛紛提出物聯(lián)網(wǎng)發(fā)展的戰(zhàn)略、規(guī)劃、核心技術(shù)及產(chǎn)業(yè)重點,促進物聯(lián)網(wǎng)產(chǎn)業(yè)迅速發(fā)展,以期在新一輪的信息化浪潮中占得先機。
  
  2008年,美國提出“智慧地球”的概念,奧巴馬表示要將其作為今后的重要發(fā)展方向。從本質(zhì)上看,“智慧地球”的概念與物聯(lián)網(wǎng)的概念在內(nèi)涵上是一致的。2015年,美國政府宣布投入1.6億美元推動智慧城市計劃,將物聯(lián)網(wǎng)應用試驗平臺的建設(shè)作為首要任務。
  
  歐盟早在2006年就成立工作組,專門進行RFID技術(shù)研究,并于2008年發(fā)布《2020年的物聯(lián)網(wǎng)——未來路線》。2009年6月,歐盟委員會發(fā)布《物聯(lián)網(wǎng)——歐洲行動計劃》,提出了包括監(jiān)管、隱私保護、芯片、基礎(chǔ)設(shè)施保護、標準制定、技術(shù)研發(fā)等在內(nèi)的14項框架內(nèi)容,對物聯(lián)網(wǎng)未來發(fā)展以及重點研究領(lǐng)域給出了明確的路線圖。2015年,歐盟成立了橫跨歐盟及產(chǎn)業(yè)界的物聯(lián)網(wǎng)創(chuàng)新聯(lián)盟(AIOTI),投入5000萬歐元,通過咨詢委員會和推進委員會統(tǒng)領(lǐng)新的“四橫七縱”體系架構(gòu),將包括原有IERC、地平線2020在內(nèi)的11個工作組納入旗下,統(tǒng)籌原本散落在不同部門和組織的能力資源,協(xié)同推進歐盟物聯(lián)網(wǎng)整體跨越式創(chuàng)新發(fā)展。歐盟計劃2016年投入超過1億歐元支持物聯(lián)網(wǎng)大范圍示范和未來物聯(lián)網(wǎng)重點領(lǐng)域研究。
  
  日本是較早啟動物聯(lián)網(wǎng)應用的國家之一。從20世紀90年代中期以來,日本政府相繼制定了多項國家信息技術(shù)發(fā)展戰(zhàn)略,有序地開展了大規(guī)模的信息基礎(chǔ)設(shè)施建設(shè)。2001年1月,日本開始實施“e-Japan”戰(zhàn)略,以寬帶化為核心開展基礎(chǔ)設(shè)施建設(shè),包括盡快普及高速通信網(wǎng)絡,制定有關(guān)電子商務的法律法規(guī),實現(xiàn)電子政務平臺,為日本下一個十年的經(jīng)濟振興提供高素質(zhì)的人才等措施。2004年5月,日本政府在完成“e-Japan”戰(zhàn)略目標的基礎(chǔ)上,由日本信息通信產(chǎn)業(yè)的主管機關(guān)總務省(MIC)向日本經(jīng)濟財政咨詢會議正式提出了2006至2010年間的IT發(fā)展任務——以發(fā)展Ubiquitous社會為目標的“u-Japan”戰(zhàn)略,即到2010年,將日本建設(shè)成一個“隨時、隨地、任何物體、任何人均可連接的泛在網(wǎng)絡社會”,該戰(zhàn)略的理念是以人為本,實現(xiàn)所有人與人、物與物、人與物之間的連接。因此,“u-Japan”的目標實際就是物聯(lián)網(wǎng)技術(shù)的廣泛應用。2009年7月,日本IT戰(zhàn)略本部發(fā)布了新一代的信息化戰(zhàn)略——“i-Japan”戰(zhàn)略,其目標是到2015年實現(xiàn)以國民為中心的數(shù)字化社會,參與解決全球性的重大問題,提升國家的競爭力,確保日本在全球的領(lǐng)先地位。因此在不長的時間內(nèi),日本實現(xiàn)了從“e-Japan”到“u-Japan”,又到“i-Japan”戰(zhàn)略的轉(zhuǎn)變,致力于為日本構(gòu)建一個個性化的物聯(lián)網(wǎng)智能服務體系。
  
  韓國早在2004年就提出了“u-Korea”戰(zhàn)略。2009年10月,韓國政府又頒布了《物聯(lián)網(wǎng)基礎(chǔ)設(shè)施構(gòu)建基本規(guī)劃》,將物聯(lián)網(wǎng)市場確定為新增長動力,確定了構(gòu)建物聯(lián)網(wǎng)基礎(chǔ)設(shè)施、發(fā)展物聯(lián)網(wǎng)服務、研發(fā)物聯(lián)網(wǎng)技術(shù)、營造物聯(lián)網(wǎng)擴散環(huán)境等4大領(lǐng)域、12項詳細課題,并提出到2012年實現(xiàn)“通過構(gòu)建世界最先進的物聯(lián)網(wǎng)基礎(chǔ)設(shè)施,打造未來廣播通信融合領(lǐng)域超一流ICT(信息通信技術(shù))強國”的目標。2015年起,韓國未來科學創(chuàng)造部和產(chǎn)業(yè)通商資源部將投資370億韓元用于物聯(lián)網(wǎng)核心技術(shù)以及MEMS傳感器芯片、寬帶傳感設(shè)備的研發(fā),還有123億韓元的投資來自韓國的私營企業(yè)。
  
  我國在物聯(lián)網(wǎng)技術(shù)方面發(fā)展相對較晚,但近年來的發(fā)展速度驚人。早在2009年,國務院發(fā)展研究中心就聯(lián)合中科院組成研究團隊,撰寫中國物聯(lián)網(wǎng)產(chǎn)業(yè)發(fā)展研究報告。經(jīng)過近半年的調(diào)研分析,該團隊認為在技術(shù)方面,中國已經(jīng)基本具備全面發(fā)展物聯(lián)網(wǎng)這一新興產(chǎn)業(yè)的技術(shù)基礎(chǔ)。在資金方面,中國近年來GDP的連續(xù)高增長也為發(fā)展物聯(lián)網(wǎng)產(chǎn)業(yè)奠定了良好的經(jīng)濟基礎(chǔ)。在人才方面,國家也需要制定政策,鼓勵物聯(lián)網(wǎng)方面人才的培養(yǎng)。到目前為止,全國各地的物聯(lián)網(wǎng)示范項目發(fā)展迅速,物聯(lián)網(wǎng)企業(yè)也快速增加,物聯(lián)網(wǎng)相關(guān)技術(shù)、專利、標準和產(chǎn)品等都在快速增長。伴隨著產(chǎn)業(yè)規(guī)模的快速擴大,我國物聯(lián)網(wǎng)產(chǎn)業(yè)體系日趨完善,集聚發(fā)展態(tài)勢明顯。目前我國已經(jīng)初步形成了覆蓋芯片和元器件、設(shè)備、軟件、系統(tǒng)集成、電信運營、物聯(lián)網(wǎng)服務在內(nèi)的較為完整的產(chǎn)業(yè)鏈,形成了長三角、珠三角、環(huán)渤海和中西部四大物聯(lián)網(wǎng)產(chǎn)業(yè)聚集發(fā)展區(qū),在無錫、重慶、杭州建立了三個國家級物聯(lián)網(wǎng)產(chǎn)業(yè)示范基地。國家對智慧城市的建設(shè)政策能更好地運用物聯(lián)網(wǎng)、云計算、大數(shù)據(jù)、空間地理信息集成等新一代信息技術(shù),促進城市規(guī)劃、建設(shè)、管理和服務智慧化的新理念和新模式。目前,我國一半以上城市在建的“智慧城市”規(guī)劃,其主要應用項目依次為公共安全、交通、醫(yī)療、社區(qū)、環(huán)保、地下管網(wǎng)監(jiān)測、水務、教育等,這些應用均以自動感知為基礎(chǔ)、數(shù)據(jù)采集為手段、智能控制為核心、精細管理和服務提升為目的,實現(xiàn)了物聯(lián)網(wǎng)技術(shù)的綜合集成應用。
  
  我國在物聯(lián)網(wǎng)技術(shù)方面也在不斷進步和創(chuàng)新。例如,中國信息通信研究院牽頭制定了國際標準ITU-TY.2068《物聯(lián)網(wǎng)功能框架與能力》,該標準于2015年3月正式發(fā)布。該標準主要明確了物聯(lián)網(wǎng)功能架構(gòu)和聯(lián)網(wǎng)能力等內(nèi)容。中國信息通信研究院與歐盟還共同發(fā)布了《中歐物聯(lián)網(wǎng)架構(gòu)比較研究報告》《中歐物聯(lián)網(wǎng)標識白皮書》,正在推進《中歐物聯(lián)網(wǎng)語義白皮書》的合作編制和物聯(lián)網(wǎng)架構(gòu)新趨勢的合作研究。無錫物聯(lián)網(wǎng)產(chǎn)業(yè)研究院和工信部電子工業(yè)標準化研究院等聯(lián)合推進完成ISO/IEC30141立項,即物聯(lián)網(wǎng)“六域”模型。該模型從業(yè)務功能的角度對物聯(lián)網(wǎng)系統(tǒng)進行分解,提出了一致性的系統(tǒng)分解模式和開放性的標準設(shè)計框架。華為等眾多企業(yè)已推出以智能手機為核心的智能家居解決方案,華為公司也在積極推動窄帶物聯(lián)網(wǎng)NB-IOT在3GPP的標準化研制工作。2015年7月,華為和中國聯(lián)通合作開展了全球首個LTE-M蜂窩物聯(lián)網(wǎng)CIoT(Cellular Internet of Things)的技術(shù)演示。
  
  但是,應該承認,在整體技術(shù)水平方面,特別是在某些核心技術(shù)方面,我們同歐美發(fā)達國家的差距還很明顯,這主要體現(xiàn)在高性能處理器、高精度傳感器和國際標準的話語權(quán)等方面。對這些技術(shù)的不足,可以通過研發(fā)和采購相結(jié)合的方式來實現(xiàn),例如對那些精度要求不是很高的應用場景,可以使用國產(chǎn)傳感器,以降低建設(shè)費用;對那些需要高精度傳感器的應用環(huán)境,可以采購國外高靈敏度傳感器,以滿足應用需求。
  
  物聯(lián)網(wǎng)安全的研究背景及意義
  
  我國政府一直高度重視信息化建設(shè),早在國家“十一五”規(guī)劃中,就已經(jīng)對寬帶無線通信網(wǎng)絡、傳感網(wǎng)、編碼等問題作了相關(guān)部署,這些都與物聯(lián)網(wǎng)相關(guān),是組成物聯(lián)網(wǎng)系統(tǒng)的重要元素。2009年8月,時任國務院總理溫家寶在無錫視察時指出,要盡快突破核心技術(shù),將物聯(lián)網(wǎng)產(chǎn)業(yè)發(fā)展上升到戰(zhàn)略性新興產(chǎn)業(yè)的高度。在隨后幾個月的時間內(nèi),國家有關(guān)部門對物聯(lián)網(wǎng)的推動達到一個新高度,可以說是遍地開花。但相關(guān)部門很快就注意到,物聯(lián)網(wǎng)關(guān)鍵技術(shù),尤其是安全技術(shù),是物聯(lián)網(wǎng)產(chǎn)業(yè)健康發(fā)展的瓶頸。工業(yè)和信息化部發(fā)布的《物聯(lián)網(wǎng)“十二五”發(fā)展規(guī)劃》指出,要大力攻克核心技術(shù),加快構(gòu)建標準體系,加強信息安全保障。特別需要說明的是,《規(guī)劃》將信息安全保障作為一個專門任務予以重視,其內(nèi)容包括加強物聯(lián)網(wǎng)安全技術(shù)研發(fā),建立并完善物聯(lián)網(wǎng)安全保障體系,加強網(wǎng)絡基礎(chǔ)設(shè)施安全防護建設(shè)。國家“十三五”規(guī)劃指出,要實施網(wǎng)絡強國戰(zhàn)略,加快構(gòu)建高速、移動、安全、泛在的新一代信息基礎(chǔ)設(shè)施。支持智慧城市的建設(shè),提高網(wǎng)絡安全等方面風險防控能力。
  
  在物聯(lián)網(wǎng)系統(tǒng)建設(shè)的初期,由于規(guī)模有限,各個物聯(lián)網(wǎng)示范基地之間相對獨立,還不能構(gòu)成真正意義的互聯(lián)互通,因此面臨的信息安全威脅也小。隨著物聯(lián)網(wǎng)系統(tǒng)數(shù)量的增多和規(guī)模的增大,特別是隨著這些物聯(lián)網(wǎng)應用系統(tǒng)的互聯(lián)互通,以及服務于這些系統(tǒng)的數(shù)據(jù)處理平臺的集中管理,物聯(lián)網(wǎng)安全問題將逐漸顯現(xiàn),會以雪崩效應影響到物聯(lián)網(wǎng)行業(yè),到時候再“亡羊補牢”將為時已晚。
  
  相比互聯(lián)網(wǎng)來說,物聯(lián)網(wǎng)有什么特點呢?首先,互聯(lián)網(wǎng)是一個網(wǎng)絡系統(tǒng),而物聯(lián)網(wǎng)是一個建立在互聯(lián)網(wǎng)基礎(chǔ)設(shè)施之上的龐大的應用系統(tǒng);其次,互聯(lián)網(wǎng)服務的目標是數(shù)字信息,而物聯(lián)網(wǎng)服務的目標是包括信息和物理設(shè)施在內(nèi)的行業(yè)應用;最關(guān)鍵的,同時也是傳統(tǒng)信息系統(tǒng)的信息安全技術(shù)在物聯(lián)網(wǎng)系統(tǒng)中不能發(fā)揮作用的特點是,物聯(lián)網(wǎng)系統(tǒng)中有大量資源受限,甚至對實時性要求很高的終端感知節(jié)點,特別在工業(yè)物聯(lián)網(wǎng)系統(tǒng)中,這些節(jié)點對數(shù)據(jù)傳輸?shù)膶崟r性要求很高,而傳統(tǒng)信息系統(tǒng)的安全保護沒有考慮這些因素,因此傳統(tǒng)的信息安全保護技術(shù)不再適合物聯(lián)網(wǎng)系統(tǒng)。
  
  物聯(lián)網(wǎng)系統(tǒng)的安全技術(shù)挑戰(zhàn)
  
  值得注意的是,雖然國內(nèi)在物聯(lián)網(wǎng)示范應用系統(tǒng)建設(shè)方面蓬勃發(fā)展,但存在的信息安全問題(或物聯(lián)網(wǎng)安全問題)也很明顯。當這些系統(tǒng)規(guī)模有限,相互之間相對獨立時,其安全問題尚不明顯,但隨著規(guī)模的增大,其信息安全問題將會突顯。比如,智能家居是一種典型的物聯(lián)網(wǎng)行業(yè)應用,當一個居戶安裝智能家居系統(tǒng)時,即使沒有采取任何專門針對物聯(lián)網(wǎng)系統(tǒng)的信息安全保護,只采取傳統(tǒng)的網(wǎng)絡安全和數(shù)據(jù)庫安全保護,也顯示不出信息安全的威脅,因為周圍鄰居不太可能發(fā)起攻擊,網(wǎng)絡黑客通過后臺服務器潛入到家庭網(wǎng)關(guān)的情況暫不考慮。但是,當智能家居很普遍時,鄰居之間的傳感器信號會相互影響,一家的傳感器信號可被鄰居家接收,鄰居家的信號也被自己接收,都是很正常的事,就像我們在家搜索WIFI信號時能找到許多WIFI站點一樣。當接收到的是傳感器的數(shù)據(jù)時,可以通過傳感節(jié)點標識進行區(qū)分,但如果想獲取這些信息,則是很容易的事。更可怕的是對控制指令類數(shù)據(jù)的非法篡改和偽造。
  
  信息網(wǎng)絡發(fā)展了這么多年,無論基礎(chǔ)設(shè)施還是信息安全保護,都有很多成熟的技術(shù)。那么物聯(lián)網(wǎng)系統(tǒng)的安全技術(shù)挑戰(zhàn)在哪里呢?我們可以通過物聯(lián)網(wǎng)的基本架構(gòu)進行分析。


  中國的物聯(lián)網(wǎng)安全:技術(shù)發(fā)展與政策建議
  從圖2可以看出,物聯(lián)網(wǎng)的網(wǎng)絡傳輸層和處理應用層都是基于傳統(tǒng)的信息系統(tǒng)建立的,因此傳統(tǒng)的信息安全保護技術(shù)基本可以使用。作為新型數(shù)據(jù)處理的云計算平臺,其架構(gòu)和特征與傳統(tǒng)的計算機系統(tǒng)有很大區(qū)別,因此需要一些有針對性的信息安全保護技術(shù),包括系統(tǒng)安全技術(shù)、數(shù)據(jù)存儲安全技術(shù)、數(shù)據(jù)處理安全技術(shù)、用戶管理安全技術(shù)和新型訪問控制技術(shù)等。對于物聯(lián)網(wǎng)的感知層,當感知節(jié)點的處理能力接近傳統(tǒng)的信息系統(tǒng)時,如智能移動終端,則可以使用傳統(tǒng)的信息安全保護技術(shù),包括操作系統(tǒng)安全技術(shù)、入侵檢測技術(shù)、訪問控制技術(shù)等。但對普通的傳感器以及RFID等設(shè)備,目前還缺乏合適的信息安全保護機制。雖然密碼學家們已經(jīng)設(shè)計出輕量級密碼算法了,但實際使用時不僅僅是一個算法的問題,還需要管理密鑰(密鑰的建立、密鑰的更新)、身份鑒別(確定通信的對方身份是真實的)、數(shù)據(jù)完整性保護(確保數(shù)據(jù)沒有被修改,特別針對惡意修改的保護)、數(shù)據(jù)機密性(確保數(shù)據(jù)內(nèi)容不被竊聽者獲取)和數(shù)據(jù)的新鮮性(用于檢測攻擊者的數(shù)據(jù)重放攻擊,特別對控制指令數(shù)據(jù)的重放攻擊)等技術(shù)。因此,從物聯(lián)網(wǎng)安全技術(shù)的挑戰(zhàn),也是目前技術(shù)的瓶頸,在物聯(lián)網(wǎng)系統(tǒng)的“最后一公里”,即從終端無線感知節(jié)點到接入網(wǎng)絡的物聯(lián)網(wǎng)網(wǎng)關(guān)節(jié)點之間的通信安全問題。如果解決了這個問題,則從整體上解決物聯(lián)網(wǎng)系統(tǒng)的安全問題,提供物聯(lián)網(wǎng)行業(yè)應用中對數(shù)據(jù)端到端的安全保護,在理論上都更加容易,而在實踐中,只是資金與時間的問題。
  
  物聯(lián)網(wǎng)安全技術(shù)目前還沒有統(tǒng)一的國際標準,國家標準也正在制定中,主要原因是物聯(lián)網(wǎng)是個特別大的系統(tǒng),包括的行業(yè)非常多,因此在信息安全保護方面制定統(tǒng)一的標準有一定難度。其實,物聯(lián)網(wǎng)安全問題主要是物聯(lián)網(wǎng)感知層的安全問題,因為在傳輸層和處理應用層,可以采用傳統(tǒng)信息系統(tǒng)的信息安全保護技術(shù),而感知層的設(shè)備種類繁多,性能差異大,從高性能的視頻監(jiān)控設(shè)備,到無人值守的傳感器模塊,在信息安全保護技術(shù)方面都有著很大的區(qū)別。最具有技術(shù)挑戰(zhàn)的,是資源受限設(shè)備的信息安全保護,例如小型傳感器和RFID標簽等。
  
  如果說在傳感器等設(shè)備方面,我們落后的技術(shù)可以通過采購國外技術(shù)和設(shè)備來彌補的話,那么在物聯(lián)網(wǎng)安全方面,特別是物聯(lián)網(wǎng)感知層的信息安全保護方面,很難通過直接購買國外技術(shù)改進,因為物聯(lián)網(wǎng)感知層的安全技術(shù)一般與硬件產(chǎn)品融為一體,購買國外的安全技術(shù)就等于購買國外的產(chǎn)品。而且安全技術(shù)不僅僅限于產(chǎn)品本身,而是要滲入數(shù)據(jù)處理中心,因為信息安全是一個系統(tǒng),而不是一個獨立的模塊。因此,無論國外在物聯(lián)網(wǎng)感知層方面有什么信息安全保護技術(shù),我們都需要研發(fā)自己的技術(shù)并應用于自己的產(chǎn)品,這樣才能實現(xiàn)“可控性”,這也是信息安全體系的重要指標。
  
  綜上所述,物聯(lián)網(wǎng)安全技術(shù)的挑戰(zhàn)重點在于對感知層資源受限設(shè)備的輕量級安全保護,包括輕量級安全算法和輕量級安全協(xié)議。輕量級安全算法具有通用性,而輕量級安全協(xié)議只能做到在小范圍內(nèi)具有一定的通用性。
  
  工業(yè)物聯(lián)網(wǎng)系統(tǒng)的安全技術(shù)挑戰(zhàn)與防護措施
  
  簡單地說,工業(yè)物聯(lián)網(wǎng)系統(tǒng)就是物聯(lián)網(wǎng)技術(shù)與工業(yè)生產(chǎn)系統(tǒng)和監(jiān)管系統(tǒng)的結(jié)合。不同于傳統(tǒng)的物聯(lián)網(wǎng)系統(tǒng),工業(yè)物聯(lián)網(wǎng)系統(tǒng)對信息傳輸?shù)膶崟r性要求很嚴格,有時甚至很苛刻,因為在工業(yè)生產(chǎn)過程中,對信息反饋的實時性要求很高,即使在工業(yè)監(jiān)管系統(tǒng)中,對數(shù)據(jù)的實時性要求也比很多其他物聯(lián)網(wǎng)行業(yè)的要求高。因此,工業(yè)物聯(lián)網(wǎng)系統(tǒng)所面臨的安全技術(shù)挑戰(zhàn)更為嚴峻。
  
  2015年5月,經(jīng)國務院總理李克強簽批,國務院發(fā)布了《中國制造2025》戰(zhàn)略文件,這是一項全面推進實施制造強國的戰(zhàn)略文件,是中國實施制造強國戰(zhàn)略第一個十年的行動綱領(lǐng)。要想實現(xiàn)這一目標,必須推進信息化與工業(yè)化的深度融合,這實際就是工業(yè)物聯(lián)網(wǎng)技術(shù)。因此,在今后的發(fā)展中,作為物聯(lián)網(wǎng)技術(shù)在工業(yè)領(lǐng)域之應用的工業(yè)物聯(lián)網(wǎng)技術(shù),將成為物聯(lián)網(wǎng)技術(shù)發(fā)展的一項有其獨有特色的技術(shù)。同時,工業(yè)物聯(lián)網(wǎng)系統(tǒng)的安全技術(shù)也將成為物聯(lián)網(wǎng)安全領(lǐng)域的具有重要特色的新技術(shù)。
  
  傳統(tǒng)工業(yè)生產(chǎn)系統(tǒng)的信息安全防護手段是網(wǎng)絡隔離,即將生產(chǎn)控制系統(tǒng)與其他信息系統(tǒng)的網(wǎng)絡進行物理隔離。隨著信息管理系統(tǒng)對數(shù)據(jù)業(yè)務需求的提高,要求生產(chǎn)過程的數(shù)據(jù)能實時上報,于是不得不將生產(chǎn)控制系統(tǒng)與生產(chǎn)管理系統(tǒng)的網(wǎng)絡進行連接,但通常使用網(wǎng)閘技術(shù)進行防護,使數(shù)據(jù)只能進行單向傳輸,因此生產(chǎn)管理系統(tǒng)即使遭受入侵攻擊,也不能對生產(chǎn)控制系統(tǒng)造成嚴重影響。隨著生產(chǎn)自動化和信息化的深度融合,這種信息隔離不能提供更高效的生產(chǎn),特別對一些定制化產(chǎn)品的生產(chǎn)更是如此,因此從生產(chǎn)控制系統(tǒng)到生產(chǎn)管理系統(tǒng),需要雙向的信息交互。國家發(fā)布的《中國制造2025》戰(zhàn)略,將進一步推動信息化和工業(yè)化的深度融合,這也給工業(yè)控制系統(tǒng)的安全防護技術(shù)帶來新的安全挑戰(zhàn),特別是對工業(yè)物聯(lián)網(wǎng)系統(tǒng)的安全防護技術(shù)帶來挑戰(zhàn)。
  
  工業(yè)物聯(lián)網(wǎng)系統(tǒng)與許多其他物聯(lián)網(wǎng)行業(yè)的區(qū)別是,在工業(yè)物聯(lián)網(wǎng)系統(tǒng)中,一般會涉及到許多工業(yè)生產(chǎn)設(shè)備,這些設(shè)備系統(tǒng)響應的實時性要求高,無論感知數(shù)據(jù)的傳輸,還是控制指令的發(fā)放,都需要在很短的時間內(nèi)完成,這就給安全防護技術(shù)的實施帶來了挑戰(zhàn)。另外,控制系統(tǒng)中的主機設(shè)備系統(tǒng)老舊,更新困難,在生產(chǎn)過程中很難對一個控制系統(tǒng)進行維護和軟件更新,包括對操作系統(tǒng)和安全防護軟件的更新,以及硬件設(shè)備的添加,因此許多防護措施只能通過旁路方式進行,這種方式只能對一些非正常數(shù)據(jù)提供報警,不能對攻擊行為實施隔離等措施。
  
  但是,針對物聯(lián)網(wǎng)系統(tǒng)的入侵攻擊,特別是工業(yè)物聯(lián)網(wǎng)系統(tǒng)所面對的入侵攻擊,與傳統(tǒng)信息系統(tǒng)的入侵攻擊有著明顯的區(qū)別。傳統(tǒng)信息系統(tǒng)的入侵攻擊目標就是被入侵的主機系統(tǒng),其表現(xiàn)行為從早期的破壞主機系統(tǒng),到后來的獲取主機系統(tǒng)信息,逐步到最后將主機系統(tǒng)變?yōu)楣羝渌鳈C系統(tǒng)的僵尸節(jié)點。但工業(yè)物聯(lián)網(wǎng)系統(tǒng)的入侵攻擊目標一般不是被入侵的主機系統(tǒng),因為無論破壞主機系統(tǒng),還是從主機系統(tǒng)獲取信息,都達不到攻擊工業(yè)設(shè)施的目的。攻擊者一般會通過入侵的主機系統(tǒng)非法控制該主機系統(tǒng)所能控制的受控設(shè)備,這些受控設(shè)備有些可能根本不具有智能判斷能力,如PLC設(shè)備。
  
  基于這種特點,對待入侵攻擊的防護措施也應該進行調(diào)整。傳統(tǒng)信息系統(tǒng)的防護手段是邊界防護(防火墻)和入侵檢測系統(tǒng),一些異常數(shù)據(jù)在邊界防護過程中就能被拒之門外,個別通過邊界防護系統(tǒng)的惡意軟件和遠程控制行為,當在主機系統(tǒng)中進行不正常的操作時,入侵檢測系統(tǒng)一般能識別并進行制止,當然這一過程有時需要人的參與才能作出正確判決。工業(yè)物聯(lián)網(wǎng)系統(tǒng)中的主機也有類似的安全防護,但對工業(yè)物聯(lián)網(wǎng)系統(tǒng)中的主機來說,邊界防護系統(tǒng)由于不能及時更新,基于系統(tǒng)漏洞的惡意軟件和遠程入侵很容易無障礙越過邊界防護;對于一些新型的入侵方式,過時的入侵檢測系統(tǒng)也基本不能識別,甚至有些入侵可以擁有比入侵檢測系統(tǒng)更高的權(quán)限。
  
  我們知道,對未知病毒的防護是困難的,原因是知己不知彼。而病毒攻擊系統(tǒng)之所以能成功,是因為病毒設(shè)計者在設(shè)計時知己知彼。能否將這種不對稱的狀態(tài)扭轉(zhuǎn)過來呢?我們認為對工業(yè)物聯(lián)網(wǎng)系統(tǒng)來說是可能的。針對工業(yè)物聯(lián)網(wǎng)系統(tǒng)的特點,我們提出一種新的安全防護架構(gòu),即入侵容忍系統(tǒng)。入侵容忍系統(tǒng)不是一個主機,而是由主機和被控制單元構(gòu)成的一個工業(yè)物聯(lián)網(wǎng)系統(tǒng),其基本原理是讓入侵者也處于知己不知彼的狀態(tài)。該系統(tǒng)的特點是,如果某一個主機遭受入侵攻擊,無論該入侵攻擊是一個惡意軟件還是非法遠程控制,都不能對該主機所控制的受控設(shè)備造成異常。這種入侵容忍系統(tǒng)是針對工業(yè)物聯(lián)網(wǎng)系統(tǒng)而專門設(shè)計的,不適合對傳統(tǒng)信息系統(tǒng)的安全保護。同時,目前傳統(tǒng)信息系統(tǒng)的安全保護都不具有入侵容忍性。因此,要想對工業(yè)物聯(lián)網(wǎng)系統(tǒng),包括其他一些物聯(lián)網(wǎng)系統(tǒng),提供自主可控的安全防護,需要大力發(fā)展入侵容忍技術(shù)。
  
  物聯(lián)網(wǎng)感知層的輕量級加密認證技術(shù)
  
  隨著便攜式電子設(shè)備的普及和RFID、無線傳感器網(wǎng)絡等技術(shù)的發(fā)展,越來越多的應用需要解決相應的安全問題。然而,相比于傳統(tǒng)的臺式機和高性能計算機,這些設(shè)備的資源環(huán)境通常有限,比如,計算能力較弱、計算可使用的存儲較少、能耗有限等等,導致傳統(tǒng)密碼算法無法很好地適用于這種環(huán)境,這就使得受限環(huán)境中密碼算法的研究成為一個迫切需要解決的熱點問題。適宜資源受限環(huán)境使用的密碼算法被稱為輕量級密碼算法。
  
  輕量級密碼算法與經(jīng)典密碼算法相互影響,互相促進。經(jīng)典密碼算法為輕量級密碼算法的設(shè)計與安全性分析提供理論支撐和技術(shù)指導;另一方面,輕量級密碼之“輕量級”的特點將使得一些安全性分析能夠更加深入、全面地展開,在這個過程中,可能會衍生出新的問題,從而進一步帶動和促進密碼算法安全性分析的進展。
  
  源于應用的推動,近幾年輕量級密碼的研究非常熱門。2015年,盧森堡大學組織了全球輕量級密碼算法性能競賽FELICS,公布了滿足參賽資格的18個密碼算法的綜合性能排名。這種全球性的競賽會大大推動輕量級密碼算法的研究熱情,許多國際標準算法也是通過類似的全球性競賽產(chǎn)生的。當然,很多輕量級密碼算法還缺乏全面、深入的安全性分析,也需要經(jīng)歷時間的考驗,例如Katan/Ktantan密碼算法在發(fā)表后不到2年的時間內(nèi)就被破譯。另外也有一些輕量級密碼算法,其整體結(jié)構(gòu)和算法模塊的設(shè)計還有進一步輕量化的余地。
  
  除了密碼算法需要輕量化外,身份認證技術(shù)更需要輕量化,因為后者關(guān)系到通信過程,其消耗的資源(主要是功耗)遠超過計算過程所消耗的資源。在RFID、無線傳感器網(wǎng)絡等應用環(huán)境中,節(jié)點資源(包括存儲容量、計算能力、通信帶寬和傳輸距離等)受到比傳統(tǒng)網(wǎng)絡更加嚴格的限制,資源的嚴重受限使得傳統(tǒng)的計算、存儲和通信開銷較大的身份認證技術(shù)無法應用,因此輕量級身份認證技術(shù)成為該領(lǐng)域研究的熱點。除此之外,輕量級密鑰管理方案也是保證物聯(lián)網(wǎng)系統(tǒng)安全不可或缺的關(guān)鍵技術(shù)。應該說,輕量級安全保護體系才是解決物聯(lián)網(wǎng)感知層安全問題的整體方案。
  
  對物聯(lián)網(wǎng)安全技術(shù)發(fā)展的政策建議
  
  近年來,國家在物聯(lián)網(wǎng)安全方面給予了很多政策支持和一定的資金支持,例如在“十二五”期間,科技部設(shè)立了國家863項目“物聯(lián)網(wǎng)安全感知關(guān)鍵技術(shù)及仿真驗證平臺”,在“十三五”的規(guī)劃中,又設(shè)立了工控安全專項,這些都說明國家對物聯(lián)網(wǎng)安全領(lǐng)域的重視和支持。但是,物聯(lián)網(wǎng)系統(tǒng)建設(shè)中對信息安全的防護投入?yún)s遠遠不夠。有關(guān)分析表明,我國在信息安全領(lǐng)域的投資占整個IT投資比例不足1%,和美國(3.6%)及日本(6%)等成熟市場差距依然明顯。對信息安全防護意識的程度、對信息安全防護體系的檢查以及對信息安全問題所造成的損失的正確評估和責任追溯,是決定信息安全投入的主要原因。
  
  考慮到物聯(lián)網(wǎng)安全問題關(guān)系到行業(yè)應用的安危,甚至在一定程度上會關(guān)系到國家的安全,國家應該提前進行部署,而不能等到亡羊補牢。因此,物聯(lián)網(wǎng)安全方面的基礎(chǔ)研究應該由國家設(shè)立資金予以支持,并在研究成果產(chǎn)業(yè)化后進一步給予一定補助,這樣會提高面向產(chǎn)業(yè)應用研究的動力。
  
  目前有些項目指南過于強調(diào)技術(shù)細節(jié),目標也太具體,并且不允許失敗。這種管理方式看上去效果明顯,但實際上成功和失敗沒有本質(zhì)區(qū)別,許多形式上的完成沒有多少實質(zhì)性進展,更不要說創(chuàng)新。在某些情況下,以項目形式的支持可能不如以團隊形式的支持更為有效。對某些項目,可以選取1~2家在業(yè)界明顯具有領(lǐng)先水平的團隊進行資助,研究目標小而精,并且以國際影響和產(chǎn)業(yè)化程度為考核指標,強化權(quán)利和義務的對等。這些考核指標不以結(jié)題匯報為依據(jù),更應關(guān)注其他證據(jù),包括同行專家的評議、經(jīng)濟和社會影響。對那些項目完成突出的團隊,給予嘉獎;對那些沒有實際解決問題的團隊,降低以后項目的競爭優(yōu)勢。這種管理方式可能會逐步形成綜合實力強的團隊,而那些在某些點上競爭實力強的小團隊,也要使其有生存和發(fā)展空間。在這種模式下,團隊人數(shù)將不占優(yōu)勢,因為雖然大團隊的整體競爭力變強,但其所消耗資源的增加將會是團隊的劣勢,因此會逐漸形成人均競爭力和創(chuàng)造力強的團隊,這才是科研激勵的目標。
  
  物聯(lián)網(wǎng)是一種新型產(chǎn)業(yè)方向,是信息技術(shù)發(fā)展的一個新階段。物聯(lián)網(wǎng)安全問題還沒有在物聯(lián)網(wǎng)行業(yè)應用中得到廣泛關(guān)注,甚至還沒有引起社會的足夠重視。目前的矛盾是,行業(yè)界認為物聯(lián)網(wǎng)安全問題沒有這么嚴重,而學術(shù)界認為物聯(lián)網(wǎng)安全方面的研究不能產(chǎn)生創(chuàng)新性理論成果。這種情況導致從事信息安全研究的學者不愿意研究物聯(lián)網(wǎng)安全問題,而從事物聯(lián)網(wǎng)產(chǎn)業(yè)建設(shè)的團隊又很少有信息安全領(lǐng)域的專家,這種矛盾導致了物聯(lián)網(wǎng)安全需求仍然停留在口號上。如何鼓勵從事信息安全研究的科研人員投入到物聯(lián)網(wǎng)安全方面的研究,推動國家物聯(lián)網(wǎng)產(chǎn)業(yè)的信息安全建設(shè),保障物聯(lián)網(wǎng)產(chǎn)業(yè)的健康發(fā)展,是一個值得思考的問題。市場引導人們的行為,政策引導市場的走向,因此制定一個合適的政策可以更好地引導物聯(lián)網(wǎng)行業(yè)應用與信息安全科學研究的結(jié)合,提高物聯(lián)網(wǎng)系統(tǒng)的安全保護。



主頁 > 新聞中心 > 戰(zhàn)略性新興產(chǎn)業(yè)研究 >

中國的物聯(lián)網(wǎng)安全:技術(shù)發(fā)展與政策建議

2016-10-14 來源:未知 點擊:

  物聯(lián)網(wǎng)是信息技術(shù)發(fā)展到一定階段的產(chǎn)物,被稱為信息技術(shù)的第三次浪潮。物聯(lián)網(wǎng)無論在技術(shù)方面還是在產(chǎn)業(yè)方面都得到空前發(fā)展。相比全球情況,物聯(lián)網(wǎng)在國內(nèi)的發(fā)展異常迅速,在一些關(guān)鍵技術(shù)方面,中國位居世界前列。但是,如果物聯(lián)網(wǎng)系統(tǒng)的信息安全問題解決不好,將影響到物聯(lián)網(wǎng)產(chǎn)業(yè)的健康和可持續(xù)發(fā)展。本文首先分析物聯(lián)網(wǎng)安全研究的背景和意義,介紹國內(nèi)外在物聯(lián)網(wǎng)方面的發(fā)展情況和重視程度,闡述國內(nèi)的技術(shù)短板、國家對物聯(lián)網(wǎng)技術(shù)和產(chǎn)業(yè)的支持等情況,然后分析物聯(lián)網(wǎng)安全問題和技術(shù)挑戰(zhàn),從技術(shù)方面提出一些新觀點,最后提出一些技術(shù)發(fā)展思路和政策建議,希望能為物聯(lián)網(wǎng)產(chǎn)業(yè)和技術(shù)的發(fā)展提供一些有用的參考。
  
  武傳坤,中國科學院信息工程研究所研究員,北京匡恩網(wǎng)絡科技有限責任公司智能安全工業(yè)研究院副院長。研究方向為網(wǎng)絡空間安全。主要著作有《物聯(lián)網(wǎng)安全基礎(chǔ)》《物聯(lián)網(wǎng)技術(shù)概論》《物聯(lián)網(wǎng)行業(yè)應用基礎(chǔ)》等。
  
  物聯(lián)網(wǎng)是建立在互聯(lián)網(wǎng)基礎(chǔ)上的信息技術(shù)發(fā)展的一個新階段,它可以通過各種終端設(shè)備獲取對物理世界的感知信息,通過多種網(wǎng)絡將海量數(shù)據(jù)傳輸?shù)教幚碇行模缓筮M行智能處理,使人們可以在任何時候、任何地點,獲取任何自己權(quán)限范圍內(nèi)終端設(shè)備的有關(guān)數(shù)據(jù)和狀態(tài),實現(xiàn)虛擬世界和物理世界的有機結(jié)合。物聯(lián)網(wǎng)技術(shù)被認為是信息技術(shù)發(fā)展的第三次浪潮,將成為未來社會經(jīng)濟發(fā)展、社會進步和科技創(chuàng)新等最重要的基礎(chǔ)設(shè)施,給中國在這一新領(lǐng)域的發(fā)展創(chuàng)造了機會,同時也帶來很大的挑戰(zhàn)。
  
  在信息技術(shù)第一次浪潮來臨時,即電腦時代,計算機技術(shù)實質(zhì)性地解放了人們的腦力勞動,那時國內(nèi)的技術(shù)水平遠遠落后于歐美發(fā)達國家。在信息技術(shù)的第二次浪潮來臨時,即互聯(lián)網(wǎng)時代,互聯(lián)網(wǎng)技術(shù)可以實現(xiàn)數(shù)據(jù)和信息的異地共享,那時國內(nèi)的技術(shù)水平只能緊跟歐美發(fā)達國家。在今天的物聯(lián)網(wǎng)時代,我國與歐美發(fā)達國家相比,雖然整體上還有差距,但差距已遠小于之前的信息技術(shù)革命時代。總體上說,各個國家都站在與歐美發(fā)達國家基本相同的起點,因此只有奮起向前,才有機會位居世界前列,在國際科學技術(shù)和產(chǎn)業(yè)領(lǐng)域爭得更大的話語權(quán)和市場份額。其實,任何一項技術(shù)的應用都存在同樣的問題,無論超前發(fā)展,還是跟隨性發(fā)展,都有優(yōu)點和缺點。超前發(fā)展的缺點是,沒有別人的經(jīng)驗可以借鑒,在發(fā)展過程中難免會遇到技術(shù)難題,走很多彎路,浪費很多人力物力;但優(yōu)點是,在發(fā)展過程中會促進科學技術(shù)的進步,優(yōu)先占領(lǐng)產(chǎn)業(yè)市場(可能還包括國際市場),積累更多創(chuàng)新性自主知識產(chǎn)權(quán),在國際舞臺有更多的話語權(quán)。跟隨性發(fā)展的缺點在于核心知識產(chǎn)權(quán)是別人的,主要市場被別人占據(jù),在國際舞臺上很難爭得話語權(quán);但優(yōu)點是少走彎路,減少浪費。中國根據(jù)自己的情況,決定走超前發(fā)展的道路。
  
  我們看到,從“十二五”規(guī)劃到“十三五”規(guī)劃,國家制定了許多物聯(lián)網(wǎng)發(fā)展的優(yōu)惠政策,也拿出大量專用資金,支持物聯(lián)網(wǎng)技術(shù)和產(chǎn)業(yè)的發(fā)展。雖然某些方面的發(fā)展小于預期,但必須看到,我們在物聯(lián)網(wǎng)相關(guān)技術(shù)方面的發(fā)展是突出的,物聯(lián)網(wǎng)示范產(chǎn)業(yè)基地的建設(shè)更是突飛猛進。
  
  雖然物聯(lián)網(wǎng)產(chǎn)業(yè)和技術(shù)都在快速發(fā)展,但物聯(lián)網(wǎng)的安全問題卻日趨明顯。由于物聯(lián)網(wǎng)技術(shù)將虛擬世界與物理世界結(jié)合在一起,通過虛擬世界的數(shù)字信息就可以控制物理世界的關(guān)鍵設(shè)備甚至基礎(chǔ)設(shè)施,因此物聯(lián)網(wǎng)的安全問題所造成的危害比信息系統(tǒng)安全問題造成的危害更大。這里我們通過一個典型的物聯(lián)網(wǎng)入侵攻擊案例來說明物聯(lián)網(wǎng)安全問題的重要性。2015年12月23日下午,烏克蘭首都基輔部分地區(qū)和烏克蘭西部的140萬名居民突然發(fā)現(xiàn)家中停電。造成這次停電的原因是電網(wǎng)遭到了黑客攻擊。黑客首先操作惡意軟件將電力公司的主控電腦與變電站斷開,隨后又在系統(tǒng)中植入病毒,讓電腦全體癱瘓。與此同時,黑客還對電力公司的電話通訊進行了干擾,導致受到停電影響的居民無法和電力公司進行聯(lián)系。
  
  烏克蘭電網(wǎng)事件似乎離我們很遙遠,其實通過病毒或黑客入侵造成工業(yè)設(shè)施損壞的事件在我們身邊也頻繁發(fā)生,而且近幾年呈增長趨勢。一些攻擊手段表現(xiàn)出專業(yè)化團隊作戰(zhàn)的特征,各個國家也都提高了對網(wǎng)絡的安全防范意識,特別是在今天的物聯(lián)網(wǎng)時代,網(wǎng)絡入侵攻擊所造成的后果,遠不是竊取信息本身那么簡單,而是造成物理設(shè)施的破壞。面對物聯(lián)網(wǎng)市場飛速發(fā)展和物聯(lián)網(wǎng)安全問題日益嚴重的矛盾,物聯(lián)網(wǎng)安全技術(shù)的發(fā)展又將如何進行?相關(guān)政策的制定對物聯(lián)網(wǎng)安全技術(shù)的發(fā)展將起到至關(guān)重要的引導作用。
  
  物聯(lián)網(wǎng)的概念與內(nèi)涵
  
  物聯(lián)網(wǎng)概念的提出有多種來源,但最早以物聯(lián)網(wǎng)為題的年度報告應該是國際電信聯(lián)盟(ITU)發(fā)布年度報告《ITU互聯(lián)網(wǎng)報告2005:物聯(lián)網(wǎng)》。物聯(lián)網(wǎng)的概念提出之后,很多學術(shù)研究也很快在該領(lǐng)域開展,僅在2008年,就出現(xiàn)了以物聯(lián)網(wǎng)為專題的國際學術(shù)會議、專著和系列論文等。2009年,時任總理溫家寶視察無錫時提出感知中國概念,將國內(nèi)對物聯(lián)網(wǎng)的重視程度推向一個高潮。
  
  從技術(shù)上,物聯(lián)網(wǎng)就是通過傳統(tǒng)網(wǎng)絡平臺,主要是互聯(lián)網(wǎng),將物理世界的傳感器等設(shè)備連接起來,其目標是使任何人在任何時間和任何地點都有能力跟任何物理設(shè)備進行通信。換句話說,物聯(lián)網(wǎng)是傳統(tǒng)互聯(lián)網(wǎng)與物理設(shè)施的有機結(jié)合,是虛擬世界向現(xiàn)實物理世界的一種延伸。這種延伸改變了虛擬世界以信息為目標的保護手段,因此稱為第三次信息技術(shù)浪潮。
  
  物聯(lián)網(wǎng)沒有具體定義,經(jīng)過幾年的討論與論證,現(xiàn)在無論學術(shù)界還是產(chǎn)業(yè)以及政府管理部門,都基本接受如下的描述:物聯(lián)網(wǎng)的基本架構(gòu)包括三個邏輯層,即感知層、網(wǎng)絡傳輸層、處理應用層。感知層由傳感器和RFID等設(shè)備組成,包括傳感器節(jié)點和數(shù)據(jù)匯聚節(jié)點(也稱感知層網(wǎng)關(guān)節(jié)點),以及在感知層進行短距離數(shù)據(jù)傳輸?shù)臒o線網(wǎng)絡,其任務是采集周圍物理環(huán)境的信息,包括自身身份信息(對RFID標簽來說),并將感知數(shù)據(jù)進行上傳;網(wǎng)絡傳輸層的任務是將這些感知數(shù)據(jù)通過傳統(tǒng)的網(wǎng)絡基礎(chǔ)設(shè)施傳輸?shù)竭h程的處理中心;處理應用層則對收到的海量數(shù)據(jù)進行智能處理,提供給用戶使用。事實上,物聯(lián)網(wǎng)的傳輸層就是我們傳統(tǒng)的網(wǎng)絡,包括互聯(lián)網(wǎng)和移動網(wǎng)絡,而移動網(wǎng)絡的最終連接形式還是通過互聯(lián)網(wǎng),因此傳輸層是以互聯(lián)網(wǎng)為核心的通信網(wǎng)絡。處理應用層實際是數(shù)據(jù)處理中心,當數(shù)據(jù)量很大時,能夠支撐大數(shù)據(jù)處理的(物聯(lián)網(wǎng)中強調(diào)智能處理)一般是云計算平臺,因此物聯(lián)網(wǎng)的處理應用層一般指云平臺,包括公有云和私有云。物聯(lián)網(wǎng)的網(wǎng)絡傳輸層和處理應用層都屬于傳統(tǒng)信息系統(tǒng)中的組成部分,所不同的是規(guī)模上較傳統(tǒng)信息系統(tǒng)有更高的要求,例如傳輸更可靠、處理更智能等。而物聯(lián)網(wǎng)的感知層才是區(qū)別傳統(tǒng)信息系統(tǒng)與物聯(lián)網(wǎng)系統(tǒng)的根本要素,也是將虛擬世界與現(xiàn)實物理世界相結(jié)合的關(guān)鍵部分。后面我們會談到,在物聯(lián)網(wǎng)安全問題上,感知層的安全問題是整個物聯(lián)網(wǎng)系統(tǒng)安全的技術(shù)瓶頸。
  
  為了更好地理解什么是物聯(lián)網(wǎng),我們看一下一種典型的物聯(lián)網(wǎng)行業(yè)應用:智能家居系統(tǒng),如圖1所示。
  
  在智能家居系統(tǒng)中,有很多的傳感器,用于感知室內(nèi)溫濕度、光照、噪音、有害氣體(如燃氣檢測)、設(shè)備狀態(tài)(如冰箱內(nèi)溫度)、電子開關(guān)(如家用電器開關(guān)、照明燈開關(guān)、空調(diào)開關(guān)等)、視頻監(jiān)控等,這些設(shè)備將感知數(shù)據(jù)(包括電子開關(guān)的狀態(tài)信息)通過一個與互聯(lián)網(wǎng)或移動網(wǎng)絡連接的家庭網(wǎng)關(guān)(即數(shù)據(jù)匯聚節(jié)點)上傳到運營商的一個數(shù)據(jù)平臺,運營商的數(shù)據(jù)平臺對這些數(shù)據(jù)進行處理,將處理結(jié)果發(fā)給用戶終端(如智能手機),這就完成了數(shù)據(jù)上傳和應用過程。另一方面,用戶可以對傳感器進行控制,例如從用戶終端發(fā)送指令,該指令通過運營商的數(shù)據(jù)平臺和互聯(lián)網(wǎng)傳給用戶的家庭網(wǎng)關(guān),然后家庭網(wǎng)關(guān)將該指令發(fā)送給具體的傳感器設(shè)備,該指令可以控制傳感器設(shè)備,也可以控制開關(guān)設(shè)備。這就是一個典型的物聯(lián)網(wǎng)行業(yè)應用系統(tǒng)。其他物聯(lián)網(wǎng)行業(yè)還有很多類似系統(tǒng),包括智能電網(wǎng)、智能管網(wǎng)、智慧醫(yī)療、智能交通、智能農(nóng)業(yè)、智能工業(yè)等等,這些不同應用領(lǐng)域的物聯(lián)網(wǎng)系統(tǒng)在架構(gòu)上有很大的相似之處。
  
 中國的物聯(lián)網(wǎng)安全:技術(shù)發(fā)展與政策建議
 
  
  中外物聯(lián)網(wǎng)發(fā)展政策比較
  
  隨著信息技術(shù)日新月異的發(fā)展,特別是信息采集、傳輸技術(shù)及高性能計算機的迅速發(fā)展和互聯(lián)網(wǎng)與移動通信網(wǎng)的廣泛應用,大規(guī)模發(fā)展物聯(lián)網(wǎng)及相關(guān)產(chǎn)業(yè)的時機日趨成熟,歐美等發(fā)達國家將物聯(lián)網(wǎng)視為未來發(fā)展的重要領(lǐng)域。2009年以來,美歐日等發(fā)達國家紛紛提出物聯(lián)網(wǎng)發(fā)展的戰(zhàn)略、規(guī)劃、核心技術(shù)及產(chǎn)業(yè)重點,促進物聯(lián)網(wǎng)產(chǎn)業(yè)迅速發(fā)展,以期在新一輪的信息化浪潮中占得先機。
  
  2008年,美國提出“智慧地球”的概念,奧巴馬表示要將其作為今后的重要發(fā)展方向。從本質(zhì)上看,“智慧地球”的概念與物聯(lián)網(wǎng)的概念在內(nèi)涵上是一致的。2015年,美國政府宣布投入1.6億美元推動智慧城市計劃,將物聯(lián)網(wǎng)應用試驗平臺的建設(shè)作為首要任務。
  
  歐盟早在2006年就成立工作組,專門進行RFID技術(shù)研究,并于2008年發(fā)布《2020年的物聯(lián)網(wǎng)——未來路線》。2009年6月,歐盟委員會發(fā)布《物聯(lián)網(wǎng)——歐洲行動計劃》,提出了包括監(jiān)管、隱私保護、芯片、基礎(chǔ)設(shè)施保護、標準制定、技術(shù)研發(fā)等在內(nèi)的14項框架內(nèi)容,對物聯(lián)網(wǎng)未來發(fā)展以及重點研究領(lǐng)域給出了明確的路線圖。2015年,歐盟成立了橫跨歐盟及產(chǎn)業(yè)界的物聯(lián)網(wǎng)創(chuàng)新聯(lián)盟(AIOTI),投入5000萬歐元,通過咨詢委員會和推進委員會統(tǒng)領(lǐng)新的“四橫七縱”體系架構(gòu),將包括原有IERC、地平線2020在內(nèi)的11個工作組納入旗下,統(tǒng)籌原本散落在不同部門和組織的能力資源,協(xié)同推進歐盟物聯(lián)網(wǎng)整體跨越式創(chuàng)新發(fā)展。歐盟計劃2016年投入超過1億歐元支持物聯(lián)網(wǎng)大范圍示范和未來物聯(lián)網(wǎng)重點領(lǐng)域研究。
  
  日本是較早啟動物聯(lián)網(wǎng)應用的國家之一。從20世紀90年代中期以來,日本政府相繼制定了多項國家信息技術(shù)發(fā)展戰(zhàn)略,有序地開展了大規(guī)模的信息基礎(chǔ)設(shè)施建設(shè)。2001年1月,日本開始實施“e-Japan”戰(zhàn)略,以寬帶化為核心開展基礎(chǔ)設(shè)施建設(shè),包括盡快普及高速通信網(wǎng)絡,制定有關(guān)電子商務的法律法規(guī),實現(xiàn)電子政務平臺,為日本下一個十年的經(jīng)濟振興提供高素質(zhì)的人才等措施。2004年5月,日本政府在完成“e-Japan”戰(zhàn)略目標的基礎(chǔ)上,由日本信息通信產(chǎn)業(yè)的主管機關(guān)總務省(MIC)向日本經(jīng)濟財政咨詢會議正式提出了2006至2010年間的IT發(fā)展任務——以發(fā)展Ubiquitous社會為目標的“u-Japan”戰(zhàn)略,即到2010年,將日本建設(shè)成一個“隨時、隨地、任何物體、任何人均可連接的泛在網(wǎng)絡社會”,該戰(zhàn)略的理念是以人為本,實現(xiàn)所有人與人、物與物、人與物之間的連接。因此,“u-Japan”的目標實際就是物聯(lián)網(wǎng)技術(shù)的廣泛應用。2009年7月,日本IT戰(zhàn)略本部發(fā)布了新一代的信息化戰(zhàn)略——“i-Japan”戰(zhàn)略,其目標是到2015年實現(xiàn)以國民為中心的數(shù)字化社會,參與解決全球性的重大問題,提升國家的競爭力,確保日本在全球的領(lǐng)先地位。因此在不長的時間內(nèi),日本實現(xiàn)了從“e-Japan”到“u-Japan”,又到“i-Japan”戰(zhàn)略的轉(zhuǎn)變,致力于為日本構(gòu)建一個個性化的物聯(lián)網(wǎng)智能服務體系。
  
  韓國早在2004年就提出了“u-Korea”戰(zhàn)略。2009年10月,韓國政府又頒布了《物聯(lián)網(wǎng)基礎(chǔ)設(shè)施構(gòu)建基本規(guī)劃》,將物聯(lián)網(wǎng)市場確定為新增長動力,確定了構(gòu)建物聯(lián)網(wǎng)基礎(chǔ)設(shè)施、發(fā)展物聯(lián)網(wǎng)服務、研發(fā)物聯(lián)網(wǎng)技術(shù)、營造物聯(lián)網(wǎng)擴散環(huán)境等4大領(lǐng)域、12項詳細課題,并提出到2012年實現(xiàn)“通過構(gòu)建世界最先進的物聯(lián)網(wǎng)基礎(chǔ)設(shè)施,打造未來廣播通信融合領(lǐng)域超一流ICT(信息通信技術(shù))強國”的目標。2015年起,韓國未來科學創(chuàng)造部和產(chǎn)業(yè)通商資源部將投資370億韓元用于物聯(lián)網(wǎng)核心技術(shù)以及MEMS傳感器芯片、寬帶傳感設(shè)備的研發(fā),還有123億韓元的投資來自韓國的私營企業(yè)。
  
  我國在物聯(lián)網(wǎng)技術(shù)方面發(fā)展相對較晚,但近年來的發(fā)展速度驚人。早在2009年,國務院發(fā)展研究中心就聯(lián)合中科院組成研究團隊,撰寫中國物聯(lián)網(wǎng)產(chǎn)業(yè)發(fā)展研究報告。經(jīng)過近半年的調(diào)研分析,該團隊認為在技術(shù)方面,中國已經(jīng)基本具備全面發(fā)展物聯(lián)網(wǎng)這一新興產(chǎn)業(yè)的技術(shù)基礎(chǔ)。在資金方面,中國近年來GDP的連續(xù)高增長也為發(fā)展物聯(lián)網(wǎng)產(chǎn)業(yè)奠定了良好的經(jīng)濟基礎(chǔ)。在人才方面,國家也需要制定政策,鼓勵物聯(lián)網(wǎng)方面人才的培養(yǎng)。到目前為止,全國各地的物聯(lián)網(wǎng)示范項目發(fā)展迅速,物聯(lián)網(wǎng)企業(yè)也快速增加,物聯(lián)網(wǎng)相關(guān)技術(shù)、專利、標準和產(chǎn)品等都在快速增長。伴隨著產(chǎn)業(yè)規(guī)模的快速擴大,我國物聯(lián)網(wǎng)產(chǎn)業(yè)體系日趨完善,集聚發(fā)展態(tài)勢明顯。目前我國已經(jīng)初步形成了覆蓋芯片和元器件、設(shè)備、軟件、系統(tǒng)集成、電信運營、物聯(lián)網(wǎng)服務在內(nèi)的較為完整的產(chǎn)業(yè)鏈,形成了長三角、珠三角、環(huán)渤海和中西部四大物聯(lián)網(wǎng)產(chǎn)業(yè)聚集發(fā)展區(qū),在無錫、重慶、杭州建立了三個國家級物聯(lián)網(wǎng)產(chǎn)業(yè)示范基地。國家對智慧城市的建設(shè)政策能更好地運用物聯(lián)網(wǎng)、云計算、大數(shù)據(jù)、空間地理信息集成等新一代信息技術(shù),促進城市規(guī)劃、建設(shè)、管理和服務智慧化的新理念和新模式。目前,我國一半以上城市在建的“智慧城市”規(guī)劃,其主要應用項目依次為公共安全、交通、醫(yī)療、社區(qū)、環(huán)保、地下管網(wǎng)監(jiān)測、水務、教育等,這些應用均以自動感知為基礎(chǔ)、數(shù)據(jù)采集為手段、智能控制為核心、精細管理和服務提升為目的,實現(xiàn)了物聯(lián)網(wǎng)技術(shù)的綜合集成應用。
  
  我國在物聯(lián)網(wǎng)技術(shù)方面也在不斷進步和創(chuàng)新。例如,中國信息通信研究院牽頭制定了國際標準ITU-TY.2068《物聯(lián)網(wǎng)功能框架與能力》,該標準于2015年3月正式發(fā)布。該標準主要明確了物聯(lián)網(wǎng)功能架構(gòu)和聯(lián)網(wǎng)能力等內(nèi)容。中國信息通信研究院與歐盟還共同發(fā)布了《中歐物聯(lián)網(wǎng)架構(gòu)比較研究報告》《中歐物聯(lián)網(wǎng)標識白皮書》,正在推進《中歐物聯(lián)網(wǎng)語義白皮書》的合作編制和物聯(lián)網(wǎng)架構(gòu)新趨勢的合作研究。無錫物聯(lián)網(wǎng)產(chǎn)業(yè)研究院和工信部電子工業(yè)標準化研究院等聯(lián)合推進完成ISO/IEC30141立項,即物聯(lián)網(wǎng)“六域”模型。該模型從業(yè)務功能的角度對物聯(lián)網(wǎng)系統(tǒng)進行分解,提出了一致性的系統(tǒng)分解模式和開放性的標準設(shè)計框架。華為等眾多企業(yè)已推出以智能手機為核心的智能家居解決方案,華為公司也在積極推動窄帶物聯(lián)網(wǎng)NB-IOT在3GPP的標準化研制工作。2015年7月,華為和中國聯(lián)通合作開展了全球首個LTE-M蜂窩物聯(lián)網(wǎng)CIoT(Cellular Internet of Things)的技術(shù)演示。
  
  但是,應該承認,在整體技術(shù)水平方面,特別是在某些核心技術(shù)方面,我們同歐美發(fā)達國家的差距還很明顯,這主要體現(xiàn)在高性能處理器、高精度傳感器和國際標準的話語權(quán)等方面。對這些技術(shù)的不足,可以通過研發(fā)和采購相結(jié)合的方式來實現(xiàn),例如對那些精度要求不是很高的應用場景,可以使用國產(chǎn)傳感器,以降低建設(shè)費用;對那些需要高精度傳感器的應用環(huán)境,可以采購國外高靈敏度傳感器,以滿足應用需求。
  
  物聯(lián)網(wǎng)安全的研究背景及意義
  
  我國政府一直高度重視信息化建設(shè),早在國家“十一五”規(guī)劃中,就已經(jīng)對寬帶無線通信網(wǎng)絡、傳感網(wǎng)、編碼等問題作了相關(guān)部署,這些都與物聯(lián)網(wǎng)相關(guān),是組成物聯(lián)網(wǎng)系統(tǒng)的重要元素。2009年8月,時任國務院總理溫家寶在無錫視察時指出,要盡快突破核心技術(shù),將物聯(lián)網(wǎng)產(chǎn)業(yè)發(fā)展上升到戰(zhàn)略性新興產(chǎn)業(yè)的高度。在隨后幾個月的時間內(nèi),國家有關(guān)部門對物聯(lián)網(wǎng)的推動達到一個新高度,可以說是遍地開花。但相關(guān)部門很快就注意到,物聯(lián)網(wǎng)關(guān)鍵技術(shù),尤其是安全技術(shù),是物聯(lián)網(wǎng)產(chǎn)業(yè)健康發(fā)展的瓶頸。工業(yè)和信息化部發(fā)布的《物聯(lián)網(wǎng)“十二五”發(fā)展規(guī)劃》指出,要大力攻克核心技術(shù),加快構(gòu)建標準體系,加強信息安全保障。特別需要說明的是,《規(guī)劃》將信息安全保障作為一個專門任務予以重視,其內(nèi)容包括加強物聯(lián)網(wǎng)安全技術(shù)研發(fā),建立并完善物聯(lián)網(wǎng)安全保障體系,加強網(wǎng)絡基礎(chǔ)設(shè)施安全防護建設(shè)。國家“十三五”規(guī)劃指出,要實施網(wǎng)絡強國戰(zhàn)略,加快構(gòu)建高速、移動、安全、泛在的新一代信息基礎(chǔ)設(shè)施。支持智慧城市的建設(shè),提高網(wǎng)絡安全等方面風險防控能力。
  
  在物聯(lián)網(wǎng)系統(tǒng)建設(shè)的初期,由于規(guī)模有限,各個物聯(lián)網(wǎng)示范基地之間相對獨立,還不能構(gòu)成真正意義的互聯(lián)互通,因此面臨的信息安全威脅也小。隨著物聯(lián)網(wǎng)系統(tǒng)數(shù)量的增多和規(guī)模的增大,特別是隨著這些物聯(lián)網(wǎng)應用系統(tǒng)的互聯(lián)互通,以及服務于這些系統(tǒng)的數(shù)據(jù)處理平臺的集中管理,物聯(lián)網(wǎng)安全問題將逐漸顯現(xiàn),會以雪崩效應影響到物聯(lián)網(wǎng)行業(yè),到時候再“亡羊補牢”將為時已晚。
  
  相比互聯(lián)網(wǎng)來說,物聯(lián)網(wǎng)有什么特點呢?首先,互聯(lián)網(wǎng)是一個網(wǎng)絡系統(tǒng),而物聯(lián)網(wǎng)是一個建立在互聯(lián)網(wǎng)基礎(chǔ)設(shè)施之上的龐大的應用系統(tǒng);其次,互聯(lián)網(wǎng)服務的目標是數(shù)字信息,而物聯(lián)網(wǎng)服務的目標是包括信息和物理設(shè)施在內(nèi)的行業(yè)應用;最關(guān)鍵的,同時也是傳統(tǒng)信息系統(tǒng)的信息安全技術(shù)在物聯(lián)網(wǎng)系統(tǒng)中不能發(fā)揮作用的特點是,物聯(lián)網(wǎng)系統(tǒng)中有大量資源受限,甚至對實時性要求很高的終端感知節(jié)點,特別在工業(yè)物聯(lián)網(wǎng)系統(tǒng)中,這些節(jié)點對數(shù)據(jù)傳輸?shù)膶崟r性要求很高,而傳統(tǒng)信息系統(tǒng)的安全保護沒有考慮這些因素,因此傳統(tǒng)的信息安全保護技術(shù)不再適合物聯(lián)網(wǎng)系統(tǒng)。
  
  物聯(lián)網(wǎng)系統(tǒng)的安全技術(shù)挑戰(zhàn)
  
  值得注意的是,雖然國內(nèi)在物聯(lián)網(wǎng)示范應用系統(tǒng)建設(shè)方面蓬勃發(fā)展,但存在的信息安全問題(或物聯(lián)網(wǎng)安全問題)也很明顯。當這些系統(tǒng)規(guī)模有限,相互之間相對獨立時,其安全問題尚不明顯,但隨著規(guī)模的增大,其信息安全問題將會突顯。比如,智能家居是一種典型的物聯(lián)網(wǎng)行業(yè)應用,當一個居戶安裝智能家居系統(tǒng)時,即使沒有采取任何專門針對物聯(lián)網(wǎng)系統(tǒng)的信息安全保護,只采取傳統(tǒng)的網(wǎng)絡安全和數(shù)據(jù)庫安全保護,也顯示不出信息安全的威脅,因為周圍鄰居不太可能發(fā)起攻擊,網(wǎng)絡黑客通過后臺服務器潛入到家庭網(wǎng)關(guān)的情況暫不考慮。但是,當智能家居很普遍時,鄰居之間的傳感器信號會相互影響,一家的傳感器信號可被鄰居家接收,鄰居家的信號也被自己接收,都是很正常的事,就像我們在家搜索WIFI信號時能找到許多WIFI站點一樣。當接收到的是傳感器的數(shù)據(jù)時,可以通過傳感節(jié)點標識進行區(qū)分,但如果想獲取這些信息,則是很容易的事。更可怕的是對控制指令類數(shù)據(jù)的非法篡改和偽造。
  
  信息網(wǎng)絡發(fā)展了這么多年,無論基礎(chǔ)設(shè)施還是信息安全保護,都有很多成熟的技術(shù)。那么物聯(lián)網(wǎng)系統(tǒng)的安全技術(shù)挑戰(zhàn)在哪里呢?我們可以通過物聯(lián)網(wǎng)的基本架構(gòu)進行分析。


  中國的物聯(lián)網(wǎng)安全:技術(shù)發(fā)展與政策建議
  從圖2可以看出,物聯(lián)網(wǎng)的網(wǎng)絡傳輸層和處理應用層都是基于傳統(tǒng)的信息系統(tǒng)建立的,因此傳統(tǒng)的信息安全保護技術(shù)基本可以使用。作為新型數(shù)據(jù)處理的云計算平臺,其架構(gòu)和特征與傳統(tǒng)的計算機系統(tǒng)有很大區(qū)別,因此需要一些有針對性的信息安全保護技術(shù),包括系統(tǒng)安全技術(shù)、數(shù)據(jù)存儲安全技術(shù)、數(shù)據(jù)處理安全技術(shù)、用戶管理安全技術(shù)和新型訪問控制技術(shù)等。對于物聯(lián)網(wǎng)的感知層,當感知節(jié)點的處理能力接近傳統(tǒng)的信息系統(tǒng)時,如智能移動終端,則可以使用傳統(tǒng)的信息安全保護技術(shù),包括操作系統(tǒng)安全技術(shù)、入侵檢測技術(shù)、訪問控制技術(shù)等。但對普通的傳感器以及RFID等設(shè)備,目前還缺乏合適的信息安全保護機制。雖然密碼學家們已經(jīng)設(shè)計出輕量級密碼算法了,但實際使用時不僅僅是一個算法的問題,還需要管理密鑰(密鑰的建立、密鑰的更新)、身份鑒別(確定通信的對方身份是真實的)、數(shù)據(jù)完整性保護(確保數(shù)據(jù)沒有被修改,特別針對惡意修改的保護)、數(shù)據(jù)機密性(確保數(shù)據(jù)內(nèi)容不被竊聽者獲取)和數(shù)據(jù)的新鮮性(用于檢測攻擊者的數(shù)據(jù)重放攻擊,特別對控制指令數(shù)據(jù)的重放攻擊)等技術(shù)。因此,從物聯(lián)網(wǎng)安全技術(shù)的挑戰(zhàn),也是目前技術(shù)的瓶頸,在物聯(lián)網(wǎng)系統(tǒng)的“最后一公里”,即從終端無線感知節(jié)點到接入網(wǎng)絡的物聯(lián)網(wǎng)網(wǎng)關(guān)節(jié)點之間的通信安全問題。如果解決了這個問題,則從整體上解決物聯(lián)網(wǎng)系統(tǒng)的安全問題,提供物聯(lián)網(wǎng)行業(yè)應用中對數(shù)據(jù)端到端的安全保護,在理論上都更加容易,而在實踐中,只是資金與時間的問題。
  
  物聯(lián)網(wǎng)安全技術(shù)目前還沒有統(tǒng)一的國際標準,國家標準也正在制定中,主要原因是物聯(lián)網(wǎng)是個特別大的系統(tǒng),包括的行業(yè)非常多,因此在信息安全保護方面制定統(tǒng)一的標準有一定難度。其實,物聯(lián)網(wǎng)安全問題主要是物聯(lián)網(wǎng)感知層的安全問題,因為在傳輸層和處理應用層,可以采用傳統(tǒng)信息系統(tǒng)的信息安全保護技術(shù),而感知層的設(shè)備種類繁多,性能差異大,從高性能的視頻監(jiān)控設(shè)備,到無人值守的傳感器模塊,在信息安全保護技術(shù)方面都有著很大的區(qū)別。最具有技術(shù)挑戰(zhàn)的,是資源受限設(shè)備的信息安全保護,例如小型傳感器和RFID標簽等。
  
  如果說在傳感器等設(shè)備方面,我們落后的技術(shù)可以通過采購國外技術(shù)和設(shè)備來彌補的話,那么在物聯(lián)網(wǎng)安全方面,特別是物聯(lián)網(wǎng)感知層的信息安全保護方面,很難通過直接購買國外技術(shù)改進,因為物聯(lián)網(wǎng)感知層的安全技術(shù)一般與硬件產(chǎn)品融為一體,購買國外的安全技術(shù)就等于購買國外的產(chǎn)品。而且安全技術(shù)不僅僅限于產(chǎn)品本身,而是要滲入數(shù)據(jù)處理中心,因為信息安全是一個系統(tǒng),而不是一個獨立的模塊。因此,無論國外在物聯(lián)網(wǎng)感知層方面有什么信息安全保護技術(shù),我們都需要研發(fā)自己的技術(shù)并應用于自己的產(chǎn)品,這樣才能實現(xiàn)“可控性”,這也是信息安全體系的重要指標。
  
  綜上所述,物聯(lián)網(wǎng)安全技術(shù)的挑戰(zhàn)重點在于對感知層資源受限設(shè)備的輕量級安全保護,包括輕量級安全算法和輕量級安全協(xié)議。輕量級安全算法具有通用性,而輕量級安全協(xié)議只能做到在小范圍內(nèi)具有一定的通用性。
  
  工業(yè)物聯(lián)網(wǎng)系統(tǒng)的安全技術(shù)挑戰(zhàn)與防護措施
  
  簡單地說,工業(yè)物聯(lián)網(wǎng)系統(tǒng)就是物聯(lián)網(wǎng)技術(shù)與工業(yè)生產(chǎn)系統(tǒng)和監(jiān)管系統(tǒng)的結(jié)合。不同于傳統(tǒng)的物聯(lián)網(wǎng)系統(tǒng),工業(yè)物聯(lián)網(wǎng)系統(tǒng)對信息傳輸?shù)膶崟r性要求很嚴格,有時甚至很苛刻,因為在工業(yè)生產(chǎn)過程中,對信息反饋的實時性要求很高,即使在工業(yè)監(jiān)管系統(tǒng)中,對數(shù)據(jù)的實時性要求也比很多其他物聯(lián)網(wǎng)行業(yè)的要求高。因此,工業(yè)物聯(lián)網(wǎng)系統(tǒng)所面臨的安全技術(shù)挑戰(zhàn)更為嚴峻。
  
  2015年5月,經(jīng)國務院總理李克強簽批,國務院發(fā)布了《中國制造2025》戰(zhàn)略文件,這是一項全面推進實施制造強國的戰(zhàn)略文件,是中國實施制造強國戰(zhàn)略第一個十年的行動綱領(lǐng)。要想實現(xiàn)這一目標,必須推進信息化與工業(yè)化的深度融合,這實際就是工業(yè)物聯(lián)網(wǎng)技術(shù)。因此,在今后的發(fā)展中,作為物聯(lián)網(wǎng)技術(shù)在工業(yè)領(lǐng)域之應用的工業(yè)物聯(lián)網(wǎng)技術(shù),將成為物聯(lián)網(wǎng)技術(shù)發(fā)展的一項有其獨有特色的技術(shù)。同時,工業(yè)物聯(lián)網(wǎng)系統(tǒng)的安全技術(shù)也將成為物聯(lián)網(wǎng)安全領(lǐng)域的具有重要特色的新技術(shù)。
  
  傳統(tǒng)工業(yè)生產(chǎn)系統(tǒng)的信息安全防護手段是網(wǎng)絡隔離,即將生產(chǎn)控制系統(tǒng)與其他信息系統(tǒng)的網(wǎng)絡進行物理隔離。隨著信息管理系統(tǒng)對數(shù)據(jù)業(yè)務需求的提高,要求生產(chǎn)過程的數(shù)據(jù)能實時上報,于是不得不將生產(chǎn)控制系統(tǒng)與生產(chǎn)管理系統(tǒng)的網(wǎng)絡進行連接,但通常使用網(wǎng)閘技術(shù)進行防護,使數(shù)據(jù)只能進行單向傳輸,因此生產(chǎn)管理系統(tǒng)即使遭受入侵攻擊,也不能對生產(chǎn)控制系統(tǒng)造成嚴重影響。隨著生產(chǎn)自動化和信息化的深度融合,這種信息隔離不能提供更高效的生產(chǎn),特別對一些定制化產(chǎn)品的生產(chǎn)更是如此,因此從生產(chǎn)控制系統(tǒng)到生產(chǎn)管理系統(tǒng),需要雙向的信息交互。國家發(fā)布的《中國制造2025》戰(zhàn)略,將進一步推動信息化和工業(yè)化的深度融合,這也給工業(yè)控制系統(tǒng)的安全防護技術(shù)帶來新的安全挑戰(zhàn),特別是對工業(yè)物聯(lián)網(wǎng)系統(tǒng)的安全防護技術(shù)帶來挑戰(zhàn)。
  
  工業(yè)物聯(lián)網(wǎng)系統(tǒng)與許多其他物聯(lián)網(wǎng)行業(yè)的區(qū)別是,在工業(yè)物聯(lián)網(wǎng)系統(tǒng)中,一般會涉及到許多工業(yè)生產(chǎn)設(shè)備,這些設(shè)備系統(tǒng)響應的實時性要求高,無論感知數(shù)據(jù)的傳輸,還是控制指令的發(fā)放,都需要在很短的時間內(nèi)完成,這就給安全防護技術(shù)的實施帶來了挑戰(zhàn)。另外,控制系統(tǒng)中的主機設(shè)備系統(tǒng)老舊,更新困難,在生產(chǎn)過程中很難對一個控制系統(tǒng)進行維護和軟件更新,包括對操作系統(tǒng)和安全防護軟件的更新,以及硬件設(shè)備的添加,因此許多防護措施只能通過旁路方式進行,這種方式只能對一些非正常數(shù)據(jù)提供報警,不能對攻擊行為實施隔離等措施。
  
  但是,針對物聯(lián)網(wǎng)系統(tǒng)的入侵攻擊,特別是工業(yè)物聯(lián)網(wǎng)系統(tǒng)所面對的入侵攻擊,與傳統(tǒng)信息系統(tǒng)的入侵攻擊有著明顯的區(qū)別。傳統(tǒng)信息系統(tǒng)的入侵攻擊目標就是被入侵的主機系統(tǒng),其表現(xiàn)行為從早期的破壞主機系統(tǒng),到后來的獲取主機系統(tǒng)信息,逐步到最后將主機系統(tǒng)變?yōu)楣羝渌鳈C系統(tǒng)的僵尸節(jié)點。但工業(yè)物聯(lián)網(wǎng)系統(tǒng)的入侵攻擊目標一般不是被入侵的主機系統(tǒng),因為無論破壞主機系統(tǒng),還是從主機系統(tǒng)獲取信息,都達不到攻擊工業(yè)設(shè)施的目的。攻擊者一般會通過入侵的主機系統(tǒng)非法控制該主機系統(tǒng)所能控制的受控設(shè)備,這些受控設(shè)備有些可能根本不具有智能判斷能力,如PLC設(shè)備。
  
  基于這種特點,對待入侵攻擊的防護措施也應該進行調(diào)整。傳統(tǒng)信息系統(tǒng)的防護手段是邊界防護(防火墻)和入侵檢測系統(tǒng),一些異常數(shù)據(jù)在邊界防護過程中就能被拒之門外,個別通過邊界防護系統(tǒng)的惡意軟件和遠程控制行為,當在主機系統(tǒng)中進行不正常的操作時,入侵檢測系統(tǒng)一般能識別并進行制止,當然這一過程有時需要人的參與才能作出正確判決。工業(yè)物聯(lián)網(wǎng)系統(tǒng)中的主機也有類似的安全防護,但對工業(yè)物聯(lián)網(wǎng)系統(tǒng)中的主機來說,邊界防護系統(tǒng)由于不能及時更新,基于系統(tǒng)漏洞的惡意軟件和遠程入侵很容易無障礙越過邊界防護;對于一些新型的入侵方式,過時的入侵檢測系統(tǒng)也基本不能識別,甚至有些入侵可以擁有比入侵檢測系統(tǒng)更高的權(quán)限。
  
  我們知道,對未知病毒的防護是困難的,原因是知己不知彼。而病毒攻擊系統(tǒng)之所以能成功,是因為病毒設(shè)計者在設(shè)計時知己知彼。能否將這種不對稱的狀態(tài)扭轉(zhuǎn)過來呢?我們認為對工業(yè)物聯(lián)網(wǎng)系統(tǒng)來說是可能的。針對工業(yè)物聯(lián)網(wǎng)系統(tǒng)的特點,我們提出一種新的安全防護架構(gòu),即入侵容忍系統(tǒng)。入侵容忍系統(tǒng)不是一個主機,而是由主機和被控制單元構(gòu)成的一個工業(yè)物聯(lián)網(wǎng)系統(tǒng),其基本原理是讓入侵者也處于知己不知彼的狀態(tài)。該系統(tǒng)的特點是,如果某一個主機遭受入侵攻擊,無論該入侵攻擊是一個惡意軟件還是非法遠程控制,都不能對該主機所控制的受控設(shè)備造成異常。這種入侵容忍系統(tǒng)是針對工業(yè)物聯(lián)網(wǎng)系統(tǒng)而專門設(shè)計的,不適合對傳統(tǒng)信息系統(tǒng)的安全保護。同時,目前傳統(tǒng)信息系統(tǒng)的安全保護都不具有入侵容忍性。因此,要想對工業(yè)物聯(lián)網(wǎng)系統(tǒng),包括其他一些物聯(lián)網(wǎng)系統(tǒng),提供自主可控的安全防護,需要大力發(fā)展入侵容忍技術(shù)。
  
  物聯(lián)網(wǎng)感知層的輕量級加密認證技術(shù)
  
  隨著便攜式電子設(shè)備的普及和RFID、無線傳感器網(wǎng)絡等技術(shù)的發(fā)展,越來越多的應用需要解決相應的安全問題。然而,相比于傳統(tǒng)的臺式機和高性能計算機,這些設(shè)備的資源環(huán)境通常有限,比如,計算能力較弱、計算可使用的存儲較少、能耗有限等等,導致傳統(tǒng)密碼算法無法很好地適用于這種環(huán)境,這就使得受限環(huán)境中密碼算法的研究成為一個迫切需要解決的熱點問題。適宜資源受限環(huán)境使用的密碼算法被稱為輕量級密碼算法。
  
  輕量級密碼算法與經(jīng)典密碼算法相互影響,互相促進。經(jīng)典密碼算法為輕量級密碼算法的設(shè)計與安全性分析提供理論支撐和技術(shù)指導;另一方面,輕量級密碼之“輕量級”的特點將使得一些安全性分析能夠更加深入、全面地展開,在這個過程中,可能會衍生出新的問題,從而進一步帶動和促進密碼算法安全性分析的進展。
  
  源于應用的推動,近幾年輕量級密碼的研究非常熱門。2015年,盧森堡大學組織了全球輕量級密碼算法性能競賽FELICS,公布了滿足參賽資格的18個密碼算法的綜合性能排名。這種全球性的競賽會大大推動輕量級密碼算法的研究熱情,許多國際標準算法也是通過類似的全球性競賽產(chǎn)生的。當然,很多輕量級密碼算法還缺乏全面、深入的安全性分析,也需要經(jīng)歷時間的考驗,例如Katan/Ktantan密碼算法在發(fā)表后不到2年的時間內(nèi)就被破譯。另外也有一些輕量級密碼算法,其整體結(jié)構(gòu)和算法模塊的設(shè)計還有進一步輕量化的余地。
  
  除了密碼算法需要輕量化外,身份認證技術(shù)更需要輕量化,因為后者關(guān)系到通信過程,其消耗的資源(主要是功耗)遠超過計算過程所消耗的資源。在RFID、無線傳感器網(wǎng)絡等應用環(huán)境中,節(jié)點資源(包括存儲容量、計算能力、通信帶寬和傳輸距離等)受到比傳統(tǒng)網(wǎng)絡更加嚴格的限制,資源的嚴重受限使得傳統(tǒng)的計算、存儲和通信開銷較大的身份認證技術(shù)無法應用,因此輕量級身份認證技術(shù)成為該領(lǐng)域研究的熱點。除此之外,輕量級密鑰管理方案也是保證物聯(lián)網(wǎng)系統(tǒng)安全不可或缺的關(guān)鍵技術(shù)。應該說,輕量級安全保護體系才是解決物聯(lián)網(wǎng)感知層安全問題的整體方案。
  
  對物聯(lián)網(wǎng)安全技術(shù)發(fā)展的政策建議
  
  近年來,國家在物聯(lián)網(wǎng)安全方面給予了很多政策支持和一定的資金支持,例如在“十二五”期間,科技部設(shè)立了國家863項目“物聯(lián)網(wǎng)安全感知關(guān)鍵技術(shù)及仿真驗證平臺”,在“十三五”的規(guī)劃中,又設(shè)立了工控安全專項,這些都說明國家對物聯(lián)網(wǎng)安全領(lǐng)域的重視和支持。但是,物聯(lián)網(wǎng)系統(tǒng)建設(shè)中對信息安全的防護投入?yún)s遠遠不夠。有關(guān)分析表明,我國在信息安全領(lǐng)域的投資占整個IT投資比例不足1%,和美國(3.6%)及日本(6%)等成熟市場差距依然明顯。對信息安全防護意識的程度、對信息安全防護體系的檢查以及對信息安全問題所造成的損失的正確評估和責任追溯,是決定信息安全投入的主要原因。
  
  考慮到物聯(lián)網(wǎng)安全問題關(guān)系到行業(yè)應用的安危,甚至在一定程度上會關(guān)系到國家的安全,國家應該提前進行部署,而不能等到亡羊補牢。因此,物聯(lián)網(wǎng)安全方面的基礎(chǔ)研究應該由國家設(shè)立資金予以支持,并在研究成果產(chǎn)業(yè)化后進一步給予一定補助,這樣會提高面向產(chǎn)業(yè)應用研究的動力。
  
  目前有些項目指南過于強調(diào)技術(shù)細節(jié),目標也太具體,并且不允許失敗。這種管理方式看上去效果明顯,但實際上成功和失敗沒有本質(zhì)區(qū)別,許多形式上的完成沒有多少實質(zhì)性進展,更不要說創(chuàng)新。在某些情況下,以項目形式的支持可能不如以團隊形式的支持更為有效。對某些項目,可以選取1~2家在業(yè)界明顯具有領(lǐng)先水平的團隊進行資助,研究目標小而精,并且以國際影響和產(chǎn)業(yè)化程度為考核指標,強化權(quán)利和義務的對等。這些考核指標不以結(jié)題匯報為依據(jù),更應關(guān)注其他證據(jù),包括同行專家的評議、經(jīng)濟和社會影響。對那些項目完成突出的團隊,給予嘉獎;對那些沒有實際解決問題的團隊,降低以后項目的競爭優(yōu)勢。這種管理方式可能會逐步形成綜合實力強的團隊,而那些在某些點上競爭實力強的小團隊,也要使其有生存和發(fā)展空間。在這種模式下,團隊人數(shù)將不占優(yōu)勢,因為雖然大團隊的整體競爭力變強,但其所消耗資源的增加將會是團隊的劣勢,因此會逐漸形成人均競爭力和創(chuàng)造力強的團隊,這才是科研激勵的目標。
  
  物聯(lián)網(wǎng)是一種新型產(chǎn)業(yè)方向,是信息技術(shù)發(fā)展的一個新階段。物聯(lián)網(wǎng)安全問題還沒有在物聯(lián)網(wǎng)行業(yè)應用中得到廣泛關(guān)注,甚至還沒有引起社會的足夠重視。目前的矛盾是,行業(yè)界認為物聯(lián)網(wǎng)安全問題沒有這么嚴重,而學術(shù)界認為物聯(lián)網(wǎng)安全方面的研究不能產(chǎn)生創(chuàng)新性理論成果。這種情況導致從事信息安全研究的學者不愿意研究物聯(lián)網(wǎng)安全問題,而從事物聯(lián)網(wǎng)產(chǎn)業(yè)建設(shè)的團隊又很少有信息安全領(lǐng)域的專家,這種矛盾導致了物聯(lián)網(wǎng)安全需求仍然停留在口號上。如何鼓勵從事信息安全研究的科研人員投入到物聯(lián)網(wǎng)安全方面的研究,推動國家物聯(lián)網(wǎng)產(chǎn)業(yè)的信息安全建設(shè),保障物聯(lián)網(wǎng)產(chǎn)業(yè)的健康發(fā)展,是一個值得思考的問題。市場引導人們的行為,政策引導市場的走向,因此制定一個合適的政策可以更好地引導物聯(lián)網(wǎng)行業(yè)應用與信息安全科學研究的結(jié)合,提高物聯(lián)網(wǎng)系統(tǒng)的安全保護。



亚洲中文字幕无码第一区| 中国真实的国产乱xxxx| 色777狠狠狠综合| 日韩视频中文| 午夜福利院电影| 日本免费黄色小视频| 玩弄丰满奶水的女邻居| 国产免费mv大全视频网站| 人妻av综合天堂一区| 成人av在线看| www一区| 三级一区二区| 天堂网中文字幕| 少妇毛片一区二区三区免费视频| 乱色欧美videos黑人69| 欧洲美女黑人粗性暴交视频| 羞羞视频2023| 一品毛片| 午夜国产免费| 国产一区二区三区91| 无码人妻aⅴ一区二区三区玉蒲团| 国产日产欧美a级毛片| 免费无码黄动漫在线观看| 亚洲欧美成人aⅴ大片| 黄片毛片在线看| 久久天天插| 青青草精品在线| 国产极品一区二区| 毛片毛片毛片毛片毛片| 日韩欧美aaa| 久久看看| 好吊爽视频988gaocom| 久草五月天| 黄色一级大片| 国内精品久久人妻无码妲己| 日本一级淫片1000部| 亚洲老女人视频| 久久入| 午夜视频在线在免费| 日韩欧美aaa| 婷婷国产一区综合久久精品| 狠狠干中文字幕| 欧美在线免费观看| 亚洲欧美不卡高清在线| 亚洲第一天堂影院| 国模大胆无码私拍啪啪av| 在线日韩精品视频| 在线黄色免费| 爱情岛成人18| 老司机午夜精品视频资源| 九九福利| 99久视频| 欧美成人免费观看| 中国av在线| 五月婷色| 一女二男一黄一片| 国产一级片精品| 免费在线看污片| 偷拍中年夫妇激情嗷嗷叫| 古装三级做爰在线观看| 亚洲欧美激情四射在线日| 97香蕉碰碰人人澡人人爱| 一级黄色免费大片| 性色88av老女人视频| 欧美一二三| 亚洲欧美日韩综合在线丁香| 免费人成网站视频在线观看| 韩国av不卡| 新中文字幕| 免费在线看污片| 无码办公室丝袜ol中文字幕| 91爱爱com| 四虎4545www国产精品| 伊人久久丁香色婷婷啪啪| av5566| 337p日本大胆欧洲亚洲色噜噜| 欧美丰满熟妇xxxx性| 凹凸日日摸日日碰夜夜爽孕妇| 精品国产成人国产在线视| 九九视屏| 草草久久97超级碰碰碰| 色视频一区二区三区| 一级毛片中国| 美日韩一区二区三区| 成人毛片一级| 一边吃奶一边添p好爽故事| 中文字幕丰满孑伦无码专区| 亚洲无吗视频| 一本一道久久a久久综合精品| 免费视频久久| 特黄一毛二片一毛片| 高潮毛片无遮挡免费看| 六月婷婷久香在线视频| 麻豆专区| 亚洲日韩在线中文字幕线路2区| 窝窝午夜看片| 18女人毛片| 亚洲国产成人精品激情在线| 日本一道综合久久aⅴ免费| 精品亚洲国产成av人片传媒| 国产我不卡| 国产黑色丝袜在线观看片不卡顿| 国产精品va无码免费麻豆| 资源av| 肉感饱满中年熟妇日本| 亚洲影视一区| 日本特黄一级大片| 97国产精品亚洲精品| 国产精品一区二区av不卡| 男女免费观看做爰视频在线观看 | 亚洲国产熟妇无码一区二区69| 久久夜色精品国产www红杏| 国产一线在线观看| 99re6在线| 亚洲www永久成人网站| 欧美丝袜一区二区三区| 亚洲一区二区在线看| 永久免费看片女女 | 欧美另类xxxx野战| 18未满禁止免费69影院| 天堂√在线中文资源网| 免费麻豆av| 色欲色香天天天综合无码www| 操少妇视频| 亚洲天堂日本| 成人a区| 午夜免费在线| 亚洲综合狠狠丁香五月| 国产高清av在线播放| 日韩成人免费| 国内精品久久久久久99蜜桃| 国产亚洲精品久久久久久无亚洲| 伊人国产视频| 国产精品夜夜春夜夜爽久久老牛 | 干干操操| 国产亚洲欧美精品久久久久久| 在线看片无码永久av| 人妻聚色窝窝人体www一区| 2020国产精品久久精品| 亚洲综合性网| 亚洲麻豆av| 又黄又爽又高潮免费毛片 | 精品久久久久久久久久久久| 先锋av在线资源| 日韩视频网| 亚洲+小说+欧美+激情+另类 | 日韩中文字幕| 欧美日韩国产免费| 婷婷久久伊人| 成人精品国产| 婷婷丁香激情五月| 欧美熟妇性开放| 亚洲免费区| 97超碰资源总站| 亚洲日本中文字幕天天更新| 欧美1区2区3区视频| 久久精品国产曰本波多野结衣| 两性色午夜免费视频| 天堂av免费在线| 夜鲁鲁鲁夜夜综合视频| wwwsss在线观看| 国产精品久久久久久超碰| 精品网站999www| 变态另类久久变态变态| 丁香婷婷在线观看| 黄色一级网址| 男女爽爽午夜18污污影院| 成人免费午夜视频| 天堂av网在线| 日韩www.| 国产精品日韩欧美| av爽妇网| 无码综合天天久久综合网| 青青草精品视频| 无码日韩av一区二区三区| 久久九九爱| 国产99久久九九精品无码| 韩日视频在线| 欧美亚洲国产成人| 色偷偷亚洲精品一区二区| 国产免费久久久久久无码| 亚洲国产精品成人久久| 永久免费的av在线电影网无码| 五月天综合色| 国产精品男人天堂| 日韩不卡1卡2卡三卡2021免费| 青青草视频污| 青草青草久热国产精品| 久久精品老司机| 无码人妻精品中文字幕免费东京热| 骚视频在线观看| 欧美有码在线观看| 亚洲一区欧美二区| 白嫩少妇喷水正在播放| 色94色欧美sute亚洲线路一久| 黑人狠狠的挺身进入| 少妇下蹲下露大唇58| 午夜看片在线| 少妇二级淫片免费放| 手机在线观看av网站| av剧情在线观看| 午夜性视频| 91久久婷婷国产一区二区| 99久久国产成人免费网站| 水蜜桃亚洲精品一区二区| 黄色网址在线视频| 男女国产精品| 欧美一级色图| 91波多野结衣| 中文字幕一区二区三区四区视频| 亚洲人视频| 亚洲精品www久久久久久广东| 狠狠做深爱婷婷综合一区| 少妇人妻无码专区视频免费| 欧美国产视频| 国产人成在线视频| 视频在线 | porny | 国产| 久久国产劲暴∨内射| 尤物一区| 中文字幕在线精品中文字幕导入| 欧美亚洲精品一区二区三区| 成人午夜免费福利视频| 成熟女人牲交片免费观看视频| 亚洲乱码中文字幕久久孕妇黑人| 香蕉视频黄色片| 米奇欧美777四色影视在线| 伊人久久久精品区aaa片| 国产精品丝袜| 国产一卡二卡三卡| 色综合无码av网站| 91狠狠干| 日本极品丰满ⅹxxxhd| 天堂在线最新版www中文| 亚洲欧美日韩第一页| 国产免费破外女真实出血视频| 操一线天逼| 丝袜国产视频| 一级黄色性生活片| 日本少妇裸体做爰高潮片| 日韩三级久久| 中文字幕日韩欧美| 九九天堂| 国产视频一区二区三区在线 | 国产清纯在线一区二区www| 久久国产精品精品国产色婷婷| 超鹏在线视频| 玖玖精品在线| 99国产在线视频| 欧美有码在线观看| 成人免费视频软件网站| 亚洲久操| 欧美日韩亚洲中文字幕二区| videos国产单亲乱| 免费看毛片在线观看| 在线人成视频播放午夜福利| 九草影院| 欧美精品黑人粗大视频| 国产在线一二三区| 日韩一卡2卡3卡4卡2021免费观看国色天香 | 日韩精品 欧美| 日韩黄色片免费看| 毛片88| 国产性色视频| 黑人jizz60性黑人| 国产学生美女无遮拦高潮视频| 精精国产xxxx在线观看主放器| 女人被强╳到高潮喷水在线观看| 久久国产福利国产秒拍| 久久精品女人| 一本色道久久99一综合| 欧美激情一级| av网址观看| 国产精品自产拍在线观看免费| 天堂在线最新版资源www中文| 韩国三级大全久久网站| 日韩在线亚洲| 天干天干天干夜夜爽av| av每日更新| 一区二区三区免费视频播放器 | 久久天天操| 日本wwwxxx| 在线精品自偷自拍无码中文 | 日韩精品成人无码专区免费| 午夜xxxxx| 搡女人真爽免费午夜网站| 高清国产mv在线观看| а天堂中文最新一区二区三区| a天堂视频在线| 精品1区2区| 中文av网| 色天使久久综合给合久久97色| 中国丰满熟妇av| 无码一区二区三区久久精品| 国产激情视频在线观看| 国产精品免费观看视频| 91网站免费视频| 亚洲qvod激情经典在线观看| 国产成人午夜在线视频a站| 亚洲网址| 黄色一级免费大片| 99ri国产| 久久久久久久久久久网站| 91视频免费观看在线看| 国产乡下妇女三片| www.色日本| 男女视频一区二区| 99精品免视看| 丁香美女社区| 欧美白胖bbbbxxxx| 亚洲一区二区三区中文字幂| xxx一区二区| 在线视频观看一区二区| 97一期涩涩97片久久久久久久 | 日韩精品一区二区大桥未久| 波多野结衣亚洲| juliaann精品艳妇在线| 国产精品igao视频网网址不卡日韩 | 亚洲免费综合色在线视频| 真实的国产乱xxxx| 两人做人爱费视频午夜| 久久网站热最新地址| 免费国产va在线观看中文字 | 色老头av亚洲一区二区男男| 一区二区三区国产在线观看| 成人性生生活性生交全黄| 日日噜噜夜夜狠狠视频| 中文字幕在线免费播放| 亚洲短视频| 一级特黄少妇高清毛片| 日韩成人av在线| 日韩av免费一区二区| 久久久久女人精品毛片| 麻豆传谋在线观看免费mv| 亚洲产国偷v产偷自拍网址| 成人av毛片| 亚洲一区精品在线| 91精品入口| 果冻传媒av精品一区| 午夜国产精品成人| 我不卡av| ass嫩粉嫩粉嫩pⅰcs| 成人久久久久久| 性xxxx搡xxxxx搡欧美| 在线免费观看av网| 亲子乱一区二区三区| 手机看片国产av无码| 日本丰满的人妻hd高清在线| 天天射天天舔| 日本高清色www在线安全| 亚洲国产精品成人久久久麻豆| 国产高清乱码又大又圆| 色悠久久久久久久综合| 福利综合网| 成人欧美一区二区三区视频| 成人18视频| 再深点灬舒服灬太大了在线视频| 免费成人黄色av| 国产精品偷伦免费观看视频| 日本老妇人乱xxy| 韩国伦理av| 一级毛片基地| 人妻内射视频麻豆| 成人中文在线| 日本在线一级片| 亚洲国产成人久久综合电影| 天天综合天天干| 男人午夜天堂| 国产精品久久久久久久久ktv| 亚洲久久久久久| 4438x五月天| 香蕉视频911| 日韩精品无码av中文无码版| 亚洲综合少妇| 网址你懂的在线| 国产精品久久久久久婷婷不卡| 中文字幕综合在线分类| 成人av免费观看| 久久综合亚洲欧美成人| 久久99婷婷国产精品免费| 中文字幕av在线播放| 黄色理伦| 熟女俱乐部五十路六十路av| 五月综合久久| 亚洲国产中文在线二区三区免| 毛片视频软件| www啪| 欧美极品在线视频| 777米奇影院狠狠色| 国产另类xxxx| 久久亚洲综合网| 亚洲欧美日韩综合久久| 国产suv精品一区二区五| 国产淫| 九九九久久久| 五十路熟女丰满大屁股| 欧美另类videosbestsex| 亚洲综合久久成人av| 亚洲狠狠| av手机网站| 午夜视频久久久| 欧美一级黄色片在线观看| 特级毛片在线大全免费播放| 少妇人妻无码专区视频免费| 亚洲黄色软件| 五月婷婷在线观看| 久久精品久久久久久久久久16| 中文字幕乱人伦视频在线| av影音先锋最大资源网| 国精产品乱码视频一区二区| 特黄特色三级在线观看| V 成人mv| 无码福利在线观看1000集| 同性恋一级片| 亚洲精品人| av资源网站| 绝顶丰满少妇av无码| 91中文字幕在线播放| 国产精品成人国产乱一区| 老熟女多次高潮露脸视频 | 精品久久久久久无码中文字幕漫画 | 久久久久久久久成人| 人妻少妇邻居少妇好多水在线| 日本乱淫a∨片| 久久思| 韩国无码av片在线观看网站| 激情伊人五月天久久综合| 久久久久久久久影院| 国产91 精品高潮白浆喷水| 国内综合精品午夜久久资源| 日韩极品一区| 色射影院| 日韩精品色哟哟| 国内av自拍| 欧美性福利| 日韩精品久久久免费观看夜色| 亚洲爆乳无码一区二区三区| 91av影视| 亚洲欧美伊人久久综合一区二区| 超碰日韩在线| 4438五月天| 成人性生交大片免费看96| missav | 免费高清av在线看| 久久国产精品影院| 久久97超碰色中文字幕总站| 最爽的乱婬视频a毛片| 97自拍视频在线| 日本xxxxx69hd日本| 婷婷久久网| 9·1·黄·色·视·频| 午夜三级a三级三点自慰| av无码播放一区二区三区| 欧美巨猛xxxx猛交黑人97人 | 亚洲黄色录像| 国产另类综合| 久久麻豆成人精品| 亚无码乱人伦一区二区| 国产精品自拍区| 亚洲免费高清视频| 久久99亚洲精品久久99果| 天天干天天色天天| 丰满岳乱妇在线观看中字无码| 亚洲日韩精品无码专区| 狠狠色综合网| 川上优av一区二区线观看| 97超碰站| 日韩激情一区二区三区| 2019精品国自产拍在线不卡| 另类中文字幕| 野花社区在线观看视频| 中文字幕久精品免费视频| 国产精品99久久| 波多野成人无码精品电影| 国内精品久久久久久久影视麻豆| 揄拍成人国产精品视频99| 国产午国产午夜精华 免费| 二级特黄绝大片免费视频大片| 精品国产一区二区三区在线| 中文字幕亚洲图片| 久久国产尿小便嘘嘘97| 妖精视频一区二区| 成人黄色免费在线观看| 麻豆画精品传媒2021一二三区 | 亚洲在战av极品无码| 老太婆性杂交视频| 美女又大又黄www免费网站| 久久99中文字幕| 97se视频| 中国真实偷乱视频| 久久综合av| 午夜精品久久久久久99热| 国产乱xxxxx国语对白| 九九影院理论片私人影院| 日本少妇三级hd激情在线观看| 久久69精品久久久久久国产越南| 视频在线a| 日韩精品无码一区二区| 欧美精品18videos性欧美| 日本黄网站| 成年无码av片完整版| 亚洲福利午夜| 日韩另类视频| 午夜影院在线看| 欧美三级真做在线观看| jizz国产老头老太婆| 日韩一级色| 激情的网站| 亚洲制服 视频在线观看| 欧美女同视频| 免费无码专区在线视频| 人人插插| 亚洲第一在线播放| 色偷偷影院| 国产午夜片无码区在线播放| 色欲天天婬色婬香综合网| 三级黄色免费片| 日本不无在线一区二区三区| 插少妇视频| 偷窥少妇久久久久久久久| 成人性生生活性生交全黄| 国产无套内射又大又猛又粗又爽| 国精品人妻无码一区二区三区3d | 久久久精品伦理| 无码内射中文字幕岛国片| 精品国产自线午夜福利| 亚洲精品国产成人av蜜臀| 2019一級特黃色毛片免費看| 亚洲性无码av在线dvd| 99精品视频在线免费观看| 成人久久18免费网站| 中出内射颜射骚妇| 91精品久久久久久综合乱菊| 精品国品一二三产品区别在线观看| 琪琪午夜伦理| 自拍性旺盛老熟女| 91视频黄版| 欧美疯狂xxxxxbbbbb| 国产欧美一区二区在线| 粉嫩呦福利视频导航大全| 性色av香蕉一区二区| 欧美成人家庭影院| 香蕉蕉亚亚洲aav综合| 综合图区亚洲欧美另类图片| 久久久午夜影院| 欧美色就是色| 自拍偷拍综合| 国产极品美女高潮无套浪潮av| 少妇精69xxxxxx黑人| jizz一区二区三区| 狠狠干狠狠爱| 天天影视涩香欲综合网| 国产99久久亚洲综合精品西瓜tv| 99久久国产露脸精品国产麻豆| 亚洲视屏在线观看| 日韩一区二区三区在线视频| 日本aaaaa女人裸体h片| 99国产精品视频免费观看一公开| 一二三不卡视频| 亚洲无人区码一码二码三码的含义| 人妻熟女一区二区av| 秋霞福利网| 91在线视频播放| 日本一级二级三级久久久| 免费看午夜福利在线观看| 亚洲日本va午夜中文字幕久久| 日本男人激烈吮乳吃奶| 亚洲天堂bt| 久99视频| 亚洲日韩中文字幕在线不卡最新| 国产 精品 丝袜| 亚洲爆乳无码专区| 亚洲国产果冻传媒av在线观看| 国产 日韩 欧美 成人| 日干夜操| 成人高清在线观看| www.激情网.com| 久热国产vs视频在线观看| 成人激情在线| 亚洲成av人在线观看成年美女| 国产精品久久久久久久久久免| 97精品在线观看| 精品国产一区二区三区四区| 在线观看精品黄av片免费| 国产一级免费看| 日本在线视频免费| 欧美日韩精品综合| 国产精品青草久久久久婷婷| 女女百合av大片一区二区三区九县| 欧美人与禽z0zo牲伦交| 成在人线av无码免费高潮水老板| 最新精品国偷自产在线老年人| 91精品国产综合久久精品性色| 超碰天堂| 久久av无码精品人妻系列果冻 | 亚洲精品视频在线播放| 97视频免费观看2区| 亚洲天堂网在线视频| 久久综合中文| 国四虎影2020| 国产日韩一区二区| 日日碰狠狠添天天爽不卡| 成人免费黄色片| 亚洲无人区一卡2卡三卡| 国产无遮挡a片无码免费| 又黄又爽又高潮免费毛片| 亚洲精品无码成人aaa片| 99久久精品国产综合| 色婷婷国产精品高潮呻吟av久久| 欧美精品三区| 九九久久精品国产| 午夜激情免费视频| 黄色a级免费| 亚洲精品久久久久中文字幕一福利 | www狠狠| 精品久久成人| 久久精品人人槡人妻人| 精品99一卡2卡三卡4卡| 综合色在线视频| 伊人色区| 亚洲中文字幕精品久久久久久直播 | 国精产品一区二区三区黑人免费看| 男女无遮挡猛进猛出免费视频国产| 懂色aⅴ精品一区二区三区蜜月 | 日本中文字幕有码在线视频| 久久99精品国产麻豆91樱花| 内射后入在线观看一区| 久久午夜色播影院| 欧美黄色视屏| 嫩草国产露脸精品国产软件| 综合av| 深夜激情视频| 69xxx18—19xxx视频| 久激情内射婷内射蜜桃| 激情插插插| 亚洲 欧美 国产 67194| 热99精品| 日本高清色倩视频在线观看| 欧美精品在线视频观看| 伊人春色网| 加勒比久久综合网天天| 99无码熟妇丰满人妻啪啪| 成年人视频免费在线观看| 国产精品情侣| 国产精品视频色拍在线视频| 久艹伊人| 成人白浆超碰人人人人| 日韩欧美成人精品| 毛片在线免费播放| 91偷拍一区二区三区精品| 国产精品av久久久久久麻豆网| 日韩视频久久| 欧美大肥婆bbbww欧出奶水| 免费看国产一级片| 亚洲国产精品久久人人爱| 成人毛片在线精品国产| 亚洲精品偷拍无码不卡av| av色吧| 亚洲欧洲日韩av| av最新版天堂资源在线| 国产精品久久精品第一页| 涩涩爱在线| 日韩在线一区二区不卡视频| 国产精品视频yy9299| 欧美69精品久久久久久不卡| 欧美熟妇性xxx交潮喷| 久久精品国产自清天天线| 性欧美在线视频观看| 国产精品色婷婷亚洲综合看片| ā片在线观看免费看无码| 午夜福利免费0948视频| 亚洲专区第一页| 男女啪啪十八| 51成人做爰www免费看网站| 韩国一级淫片| 成人动漫在线观看| 亚洲国产精品综合久久20| h视频亚洲| 青青草欧美视频| 91视频影院| 91美女诱惑| 天海翼一区二区| 亚洲欧美日韩系列| 精品久久二区| 国产精品第一区揄拍| 国产人成无码视频在线1000| 九色porny丨入口在线| 亚洲男人av| 欧洲一区二区在线观看| 四川少妇被弄到高潮| 免费无码毛片一区二区app| 男女做爰真人视频直播| 国产一区二区三区a| 高潮av| а√8天堂中文官网资源| 天天综合网国产| 亚洲天堂视频网| 伦理欧美| 色成人综合网| 成人片免费视频| 亚洲真人无码永久在线观看| 久久精品av国产一区二区| 国产精品对白刺激| 一级黄色免费片| 妞干网这里只有精品| 九色国产在线| 色女仆影院| 玩肥熟老妇bbw视频| 亚洲国产www| 999久久久精品视频| 欧洲熟妇性色黄| 丁香花开心四播房麻豆| 极品少妇被猛得白浆直流草莓视频| 人妻系列无码专区无码专区| 日本国产制服丝袜一区| 国产情侣在线播放| 日韩国产亚洲欧美成人图片 | 开心激情久久| 久久人人爽av亚洲精品天堂| 成人看片黄a免费看在线| 青青久在线视频免费观看| 成人午夜免费无码区| 日韩视频中文字幕在线观看| 国产精品成人观看视频| 人妻被按摩到潮喷中文字幕| 免费午夜福利在线观看视频| 久久精品无码人妻无码av| 97人人爽人人| 玖玖精品| www久久爱白液流出h| 超碰伊人久久大香线蕉综合| 五月天丁香综合久久国产| 婷婷国产天堂久久综合五月| 在线 国产 精品 蜜芽| 欧美13p| 韩国色网| 成人无码在线视频网站| 热の国产| 白石茉莉奈一区二区av| 97久人人做人人妻人人玩精品| 关晓彤三级在线播放| 日本欧美一区二区三区在线播放 | 国产乱人视频| 日本又紧又色又嫩又爽的视频| 乱人伦中文字幕在线| 欧美日韩在线播放视频| 少妇中文字幕乱码亚洲影视| 老色鬼在线精品视频在线观看| 久久精品国产亚洲精品| 蜜桃无码av一区二区| 国产麻豆影视| 中国女人内谢69xxxx| 国产免费破外女真实出血视频| 三级日本高清完整版热播| 日韩中文字幕免费观看| 尤物av无码色av无码麻豆| 天天狠天天插天天透| 欧美三级欧美成人高清| www.日| 国产伦子伦对白视频| 一本大道在线观看无码一区| 黄色在线播放| 色av影院| 亚洲av成人精品毛片| 久久精品国产v日韩v亚洲| 隔壁人妻被水电工征服| 玖玖色在线| 性国产三级在线观看| 亚洲精品蜜桃久久久久久| 日本人配人免费视频人| 亚洲国产精品悠悠久久琪琪| 久久99热只有频精品6狠狠| 波多野结衣av无码久久一区| 国产91打白嫩光屁屁网站| 色偷偷av老熟女| 911国产| 岳的好大精品一区二区三区| 成人免费网站入口www| 亚洲人成无码网站久久99热国产 | 亚欧精品在线| 国产精品无码一区二区三区免费| www久久只有这里有精品| 人人看人人爱| 国产这里只有精品| 国产成人女人在线观看| 性xxx法国hd极品| 农村欧美丰满熟妇xxxx| 男女啪啪免费观看无遮挡| 国产1区2区3区| 国精一二二产品无人区免费应用| 成人试看30分钟免费视频| 亚洲综合色丁香婷婷六月图片 | 日韩在线免费播放| 藏春阁福利视频| 欧美激情啪啪| 婷婷激情综合| 深夜网站在线| 公车乳尖揉捏酥软呻吟| 看全色黄大色大片60岁| 亚洲一区二区欧美| 国产精品一区av| 免费人成激情视频在线观看| 无码国产精品一区二区免费式直播| 色狠狠一区| 青青爽无码视频在线观看| 亚洲精品一区三区三区在线观看| 人人爽人人做| 国产一区二区四区在线观看| 手机免费av片| 精东影业一区二区三区| 美女视频黄a视频全免费观看| 国产精品乡下勾搭老头1| 欧美成人做爰大片免费看黄石| 四虎成人精品无码| 亚洲精品国产成人99久久| 婷婷导航| 欧洲美女熟乱av| 粉嫩一区二区三区| 一个色综合久久| 久久―日本道色综合久久| 男女啪啪猛烈免费网站| 好男人在在线社区www在线影院| 国产在线最新| 国产免费无遮挡吸乳视频下载| 女人裸露免费视频无遮挡网站| 久久久久久亚洲精品无码| 色综合日韩| 成年人一级黄色片| 欧美一区二区鲁丝袜片| 美国免费黄色片| 欧美激情18p| 7m第一福利500精品视频| 综合在线视频精品专区| 九九综合网| 国产小视频你懂的| 翘臀后进少妇大白嫩屁股| 国产在线拍揄自揄拍无码视频| aaa影院| 欧美噜噜噜| 国产免费观看黄av片| 人人妻在人人| 亚洲狠狠爱一区二区三区| 五月婷在线| 日本无码v视频一区二区| 有夫之妇3高潮中文字幕| 麻豆av在线看| 国产一级黄色录像| 看国产一级毛片| 国产黑色丝袜在线观看片不卡顿| 国产无吗一区二区三区在线欢| 第一av在线| 久久99精品久久久久久2021| 天堂成人av| 国产精品亚洲专区无码web| 久久综合亚洲色一区二区三区| 久久综合亚洲| 青青青国产在线观看手机免费 | 福利视频三区| 成人亚洲a片v一区二区三区蜜臀| 小明看欧美日韩免费视频| 久久久精品网| 国产成人黄色| 国产精品xnxxcom| 中文字幕亚洲综合久久2020| 国内精品九九久久精品| 欧美大片免费看| 内射小寡妇无码| 中文字幕 在线观看 亚洲| 小12箩利洗澡无码视频网站| 韩国黄色av| 色多多福利网站免费破解| 亚洲国产精品ⅴa在线播放| 你懂的网址在线播放| 在线不卡日本v二区到六区| 亚洲精品视频一二三区| 午夜伦理久久| 天天久久| 女同一区| 狠狠爱网站| 免费网站内射红桃视频| xxxxx欧美妇科医生检查| 国产尤物在线观看| 少妇特黄a片一区二区三区| 一级黄色的毛片| 久久婷婷色一区二区三区asmr| 老司机在线精品视频网站| 国产亚洲精品久久www| 亚洲欧美综合色| 色婷婷免费| 先锋资源在线视频| 一二三不卡| 狠狠色丁香久久婷婷综| 久久久网址| 天堂av在线官网| 小嫩草张开腿让我爽了一夜| 欧美精品1区2区3区| 国产精品久久毛片av大全日韩| 一区二区视频免费| 亚洲人xxx| 激情久久网站| 亚洲精品第一国产综合精品99| 成人网站在线进入爽爽爽| 成年女人免费v片| 狠狠色婷婷久久综合频道日韩 | 一区在线播放| 天天视频天天爽| 麻豆免费在线观看视频| 国产超碰人人做人人爽av牛牛| 青青草无码国产亚洲| 苍井空浴缸大战猛男120分钟| 亚洲人成色99999在线观看| 国产精品黑色丝袜久久| 男女搞黄网站| 国产精品亚洲欧美在线播放| 亚洲黄色片网站| 久热免费在线视频| 大白屁股一区二区视频| 免费看日本zzzwww色| 中文字幕亚洲欧美日韩2019| 国产婷婷综合在线视频中文| 99久久夜色精品国产亚洲96| 欧美中文字幕在线观看| 国产精品免费久久久久电影| 久久月本道色综合久久| 国产日韩精品视频一区二区三区| 91夫妻视频| 久久久久久久精| 亚洲情a成黄在线观看| 亚洲国产另类久久久精品小说| 精品欧美久久久| 妺妺窝人体色www在线下载| 亚洲精品久久久久久av| 色婷婷婷丁香亚洲综合| 午夜夫妻试看120国产| 夜鲁夜鲁狠鲁天天在线| 夜夜骑夜夜操| 香蕉视频最新网址| 少妇午夜三级伦理影院播放器| 欧美老女人性视频| 一道本在线播放| 色妹子综合| 黄色精品国产| 另类异族videosex太狠了| 91久久极品少妇韩国| 欧美日韩亚洲成人| 精品国产18久久久久久二百| 91国内产香蕉| 日本一区二区三区不卡免费| 亚洲第一无码精品立川理惠| 国产福利第一页| 俄罗斯av片| 人妻少妇88久久中文字幕 | 久久久成人免费视频| 亚洲aaaaaaa| 欧美激情视频网址| 久久久精品成人免费看片| 成人三级视频在线观看一区二区| 国产美女黄色片| 一级片麻豆| 亚洲午夜久久久精品一区二区三剧| 在线观看成人网| 秋霞黄色网| 天天综合天天做| 本田岬av| 永久在线免费观看| 色呦呦在线| 欧美男人亚洲天堂| 中国内地毛片免费高清| 五月激情综合| 国产一区国产二区在线精品 | 午夜国产在线观看| 2020国产精品午夜福利在线观看 | 中文字幕久久综合久久88| 淫综合网| av不卡网站| 国产av永久精品无码| 日批免费网站| 亚洲精品久久久久久无码色欲四季| 国产绳艺sm入口| 国产高清露脸孕妇系列| 中文字幕在线天堂| 叶山小百合av一区二区| 高清欧美性猛交xxxx黑人猛交| 精品一卡二卡三卡| 欧美激情精品久久久久久| 国产日韩未满十八禁止观看| 午夜xxx| 人人插人人插人人爽| 久久激情日本亚洲欧洲国产中文| 国产一级做a爰片在线看免费| 国产精品亚洲专区无码电影| 国产成人美女裸体片免费看 | 天天夜夜草草久久伊人| 欧美日韩在线观看视频| 免费欧洲美女牲交视频| 国产人妖cd在线看网站| av一级大片| 男女艹逼网站| 天天操天天舔天天干| 日韩男人天堂| 草逼免费视频| 啪啪.com| 国产在线播放网站| 天堂国产欧美一区二区三区| 越南性受xxx精品| 亚洲一区二区自拍| 豆花视频18成人入口| 蜜桃av久久久亚洲精品| 黑人性猛爱xxxxx免费| 国产98在线| 五月色综合| 国产经典一区二区三区蜜芽| 国产娇喘喷水呻吟在线观看| 又色又污又爽又黄的网站| 狠狠人妻久久久久久综合蜜桃| 噜噜久久噜噜久久鬼88| www.男女| 蜜桃精品视频在线观看| 一本色综合亚洲精品蜜桃冫| a黄视频| 99亚洲天堂| 国内精品少妇| 女人和拘做受全程看视频| 国偷自产av一区二区三区小尤奈 | 免费看a的网站| 四虎影视免费在线观看| 久久精品久久99| 久插视频| 丰满护士巨好爽好大乳| 精品一区精品二区| 99国产精品久久不卡毛片| 国产一区二区三区美女| 久久精品国产精油按摩| 无码人妻h动漫网站| 日本美女久久久| 色偷偷女人的天堂亚洲网| 美女露隐私网站| 天堂资源地址在线| 日本人与黑人做爰视频网站| 看毛片网| 欧美精品亚洲精品日韩传电影| 性欧美jzjz2| 欧美视频在线免费看| 午夜片无码区私人影院| av无码一区二区三区| 一本久道久久| 国产91在线观看丝袜| 在线免费成人| 波多野结衣一区二区免费视频| 亚洲午夜爱爱香蕉片| 亚洲第一字幕| 日韩一区二区三区在线免费观看 | 91美女吸乳羞羞网站| 欧美狂野另类xxxxoooo| 91久久国产露脸精品国产闺蜜| 中文字幕日韩人妻不卡一区| 亚洲中文无码永久免费| 国产精品亚洲专区无码影院| 精品一卡2卡三卡4卡免费视频| 国产精选91| 久久国产剧情| 美国一级特黄| 国产乱人伦真实精品视频| 欧美在线播放一区| 无码午夜成人1000部免费视频| 麻豆秘密入口a毛片| 亚洲а∨天堂2014在线无码| 99自拍偷拍视频| 中文字幕天堂网| 久久婷香| 国产精品视频yjizz免费| 黄色成人一级片| 东北妇女xx做爰视频| 一级少妇淫片免费观看| 中文日产码2023天美| 成人国内精品视频在线观看| 2021年国产精品自线在拍| 国产久草视频| 国产色欲婬乱免费视频软件| 关晓彤三级在线播放| 日韩乱码人妻无码中文字幕久久| 夜色影院在线观看| 免费看91的网站| 免费人妻精品一区二区三区| 国产亚洲精久久久久久无码77777| 精品一区二区在线看| 婷婷五月综合丁香在线| 聚色视频| 久久久久久久无码高潮| 林由奈在线观看| h番动漫福利在线观看| 一本一本久久a久久综合精品| 久久女| 黄网站在线观看视频| 极品丰满少妇| 超碰网站在线观看| 樱花草在线播放免费中文| 96av麻豆蜜桃一区二区| 欧美日韩在线免费观看| 97国产精品视频| 在线观看日本国产成人免费| 少妇又色又紧又黄又刺激免费| 亚洲一区二区三区自拍公司| 成人福利国产午夜av免费不卡在线| 午夜在线观看免费线无码视频| 美女av片| 97超碰国产精品无码分类| 国产精品99久久久久人中文网介绍| 欧美日韩亚| 在线午夜| 亚洲综合区图片小说区| 91亚洲国产精品| 久久96国产精品久久99软件| 亚洲尤物视频| 国产免费无遮挡吸奶头视频| 国产成人综合色视频精品| 黄色大片黄色大片| 亚洲中文字幕av在天堂| 91美女精品| 99自拍网| 亚洲影视精品| 91精品久久久久久久久不卡| 缅甸午夜性猛交xxxx| 国产成人久久av免费高清密臂| 国产麻豆一精品一男同| 337人体做爰大胆视频| 四虎av网站| 亚洲国产91| 91看片看淫黄大片| 五月激情综合婷婷| 亚洲色成人一区二区三区小说| 国产国语老龄妇女a片| 久久久久久无码精品人妻a片软件| 国产免费网址| 揉着我的奶从后面进去视频| 污色视频| 国产ktv交换配乱婬视频| 3344永久在线观看视频免费| 污污网站18禁在线永久免费观看| 涩涩网站在线看| 99热久久这里只有精品| 欧洲精品卡1区2卡三卡四卡| 日韩免费无码人妻波多野| av中文字幕在线播放| 精品四虎国产在免费观看| 成人性生交大片免费看vrv66| 少妇一区二区视频| 99中文字幕在线观看| 国产精品嫩草影院入口一二三| 亚洲天堂美女| 国产痴汉av久久精品| av日韩精品| 久久久一本精品99久久精品88| 少妇厨房愉情理9伦片视频| 99爱在线精品视频免费观看| 欧美日韩亚洲tv不卡久久| 日韩人妻无码制服丝袜视频| xxxx在线观看视频| www激情五月com| 久久久久国产免费| 午夜131美女爱做视频| 人妻中文字幕无码系列| 久久精品牌麻豆国产大山| 久久国产色| 36d大奶| 偷偷久久| 成人亚欧欧美激情在线观看| 一本到中文无码av在线精品| 亚洲第一页中文字幕| av午夜久久蜜桃传媒软件| 国产精品igao视频网免费播放| 嫩草欧美曰韩国产大片| 国产亚洲精品自在久久vr| 国产午夜久久| 国产精品专区免费观看软件| 极品久久久久久| 男女视频一区二区| 久久99精品久久久久久久久久久久| 女高中生第一次破苞av | 99精产国品一二三产区nba| 免费国产a国产片高清网站| 99视频网| 色香蕉视频| 国产精品玖玖玖| 无码人妻丰满熟妇区10p | 精品人妻二区中文字幕| 婷婷色av| 粉嫩在线一区二区三区视频| 成人51网站| 国产精品美女久久久久av福利| 久久亚洲精品成人av二次元| 精品欧美一区免费观看α√ | 尤物tv国产精品看片在线| 黑人操少妇| 窝窝人体色www| 操极品少妇| gav成人网免费免播放器播放| 国产精品五月天| 一性一交一摸一黄按摩精油视频| 极品少妇露脸一区二区| 天堂久久网| 精品久久成人| 国产一区二区丝袜高跟鞋| 久久成人影院精品777| 国产超碰人人做人人爽av大片| 亚洲国产成人久久综合一区,久久久国产99| 久久蜜臀精品av| 国产一级自拍视频| 97久久精品国产一区二区片| 免费无码专区在线视频| 精品少妇一区二区三区视频| 操操操干干干| 人人爽人人爽人人片av| 欧美成人免费网站| zzijzzij亚洲成熟少妇| 亚洲 欧美 日韩 国产综合 在线| 国产乱人伦偷精品视频色欲| 狠狠色噜噜狠狠狠狠69| 综合久久激情| 国产999在线| 亚洲欧洲色| 噜啦噜色姑娘综合| 西西人体大胆尺度写真| 黄 色 人 成 网 站 免 费| 国产一级免费在线观看| 亚洲毛片一区二区| 95在线视频| wwwcom黄色片| 人与善性猛交xxxxx| 欧美大片www| 成人片在线播放| 国产v亚洲v天堂a无码99| 国内精品第一页| 美女露出奶头扒开尿口视频直播| 7777kkkk成人观看| av av片在线看| 久久久久免费看| 91在线丨porny丨国产| 成人午夜视频一区二区无码| jizz欧美大片| avtt亚洲| 色8久久| 高清乱码男女免费观看| а√在线中文网新版地址在线| 国产系列在线观看| 国产又粗又硬又大爽黄老大爷视| 在线看片中文字幕| 日韩免费视频一一二区| 人人妻人人做人人爽| 久久中文字幕免费| 免费毛儿一区二区十八岁| 午夜天堂在线| 国产原创一区二区| youjizz.com国产| 特黄色毛片| 女性爱爱视频| 九九黄色片| 国产无遮挡a片又黄又爽| 国产精品igao视频| 欧美激情免费在线| 日韩成人一级片| 亚洲区小说区| www91香蕉视频| 狂野欧美性猛交xxxxx视频| 九一毛片| 欧美精品一区二区三| 久久99精品久久久久久国产越南| 伊人成年网站综合网| 欧美深夜福利视频| 精品婷婷色一区二区三区| 欧洲无码八a片人妻少妇| 国产免费不卡av| 亚洲欧美日韩另类| 最新色站| 精品在线视频免费观看| 高清在线一区二区| 日韩欧美精品一区二区| 九九九久久久精品| 亚洲国产欧美不卡在线观看| 免费在线黄色网| 欧美成人精品三级网站| 色婷五月天| 亚洲一区二区三区婷婷| 日韩av第一页在线播放| 免费观看黄色片网站| 人妻熟女一区二区aⅴ林晓雪| 欧美国产综合| 欧美精品一区二| 青青草日本| 欧美xxxx83d| 另类欧美日韩| 国产精品久久久久久久久免费| 国产美女被遭强高潮免费一视频| 丝袜视频在线观看| 午夜插插| av72在线观看| 欧美激情久久久久| 亚洲大色堂人在线无码| 北条麻妃在线一区二区| 大乳奶水成人吃91| 久久不卡日韩美女| 国产98涩在线 | 欧洲| 四虎永久在线精品免费观看网站| 看污网站| 亚洲精品蜜桃| 五月婷婷国产| 亚洲精选网站| 天天爱综合| 色视频观看| 91小视频在线观看| 五月婷婷六月丁香动漫| 日韩一区二区三区免费高清| 日本黄h兄妹h动漫一区二区三区 | 91高清视频在线观看| 亚洲精品久久无码av片| 国产黄色在线网站| 久久久久99精品成人片| 2019国产精品青青草原| 国产精品久久久久无码av1| 手机在线观看av片| 无码播放一区二区三区| 成年人黄色av| 中文字幕 人妻熟女| 无码人妻斩一区二区三区| 国产熟女内射oooo| 日韩人妻无码精品无码中文字幕| 欧美日韩在线观看视频| 久久国产热| 图书馆的女友在线观看| 爽爽淫人| 四虎精品国产永久在线观看| 国产成人无码精品久久久免费| 天堂福利在线| 久久精品国产亚洲a∨麻豆| 色七七桃花综合影院| 中文字幕人妻丝袜二区| 91视频黄版| 超碰97人人爱| 色综合天天天天综合狠狠爱| 草逼网站| 国产丝袜av| 欧美aaaaa| 古装一级淫片aaaaaa| 国产三级a| 国产亚洲激情| 中文精品久久久久鬼色| 色激情综合| 一本大道久久a久久精二百| 成人自拍网| 成人免费观看视频网站| 美女被抽插到哭内射视频免费| 四虎永久在线精品免费观看| 在线欧美 精品 第1页| 久久91| 黄色网炮| www夜夜| 亚洲图色视频| 亚洲综合精品| 精品视频国产香蕉尹人视频| 久9精品| 少妇被粗大的猛烈进出| 色一情一交一乱一区二区| 高潮久久久| 狠狠色丁香久久婷婷综合五月 | 欧美成人黄色网| 亚洲 欧美精品suv| av一级网站| 天天色综合天天| 日本大肚子孕妇交xxx| 99视频精品国产免费观看| 亲子乱子伦xxxx视频| 无码精品日韩中文字幕| 亚洲国产情侣| 亚洲曰本av在线天堂| 538prom精品视频在线播放| 成人性生活视频在线播放| 97精品尹人久久大香线蕉| 亚洲国产tv| 中文无码日韩欧免费视频app| 美日韩在线观看| 亚洲老女人| 国产在线视频网站| 天天cao在线| 97国精产品无人区一码二码| 亚洲精品自产拍在线观看动漫| 国产小视频在线观看免费| 天干天干天啪啪夜爽爽av软件| 精品国产一区二区三区四区精华| 嫩草影院污| 夜夜骑综合| 日韩激情av| 99精品欧美一区二区三区| 女同免费毛片在线播放| 午夜在线视频| 4hu四虎永久在线影院| 777人体大胆中国人体哦哦| 久久一区二| 在线观看的av网址| 天黑黑影院在线观看免费中文 | 国产成人精品日本亚洲77美色| 一本一道av| 亚洲综合区图片小说区| 狠狠色婷婷久久一区二区| 最新日韩精品中文字幕| 91天堂素人| 欧美视频观看| 欧美黄色a视频| 一性一乱一乱一爱一频| 在线精品视频一区二区| 成人免费看片98| www.天天射| 成人h动漫精品一区二区无码| a 'v片欧美日韩在线| 成人在线欧美| 少妇性l交大片久久免费| 玖玖爱资源站| 黄色小视频在线免费看| 成人字幕| 日韩一级二级三级| 性高朝久久久久久久久久| 亚洲视频在线观看免费| 在线观看日韩中文字幕| 久久影视传媒| 婷婷俺来也| 亚洲精品女人| av观看网站| 成年视频在线观看| 免费在线观看黄色网址| 色偷偷av老熟女| 内射中出日韩无国产剧情| 日韩夜夜高潮夜夜爽无码 | 色婷婷久久久swag精品| 亚洲成人精品久久久| 国产99视频精品免费观看9| 国产老太睡小伙子视频| 国产精品黄页免费高清在线观看| 日韩美女黄色| V 我的公把我弄高潮了视频| 亚洲一级免费在线观看| 国产午夜福利在线播放87| 国产怡红院在线观看| 超碰在| sm调教美女警花少妇| 精品久久无码中文字幕| 欧美怡春院| 人妻av无码专区久久| 欧美你懂的| 久久久久爽人综合网站| 久草在线最新视频| 成人羞羞网站入口免费| 欧洲精品色在线观看| 好爽又高潮了毛片| 久久人妻av一区二区软件| 欧美亚洲第一页| 大象传媒成人在线观看| 免费观看成年人网站| xvideos国产精品好深| 亚洲熟妇色xxxxx欧美老妇y| yyyy11111少妇无码影院| 18p在线观看| 成av人电影在线观看| 国产黄在线观看免费观看软件| 国内精品一区二区福利视频| 久久久久无码精品亚洲日韩| 国产高潮又爽又刺激的视频| www.黄色网址.com| 日韩v欧美v中文在线| 午夜影片| 放荡的少妇2欧美版| 亚洲视频国产| 亚洲综合色区在线播放2019| 小早川怜子avhd肉厚一区| 亚洲国产品综合人成综合网站| 你懂的网址国产,欧美| 青青草无码国产亚洲| 国产成人一区二区三区视频免费 | 欧美黑人一区二区| 最新免费av网站| 国产又黄又爽又刺激的软件| xxx日本黄色| 亚洲精品20p| 精品少妇theporn| 小辣椒福利视频精品导航| 天天爱天天做天天爽2021| 国产va在线观看免费| 男女艹逼网站| 久久国产夜色精品鲁鲁99| 精品少妇爆乳无码av无码专区| a资源在线观看| 国产成人欧美亚洲日韩电影| 侵犯强奷高清无码| 狠狠躁夜夜躁人人爽视频| 国产午夜视频| 久草在线中文888| 伊人影院在线视频| 国产片淫级awww| 善良的公与媳hd中文字| 日韩a∨精品日韩在线观看| 成人不卡视频| 日本成本人三级在线观看| 免费看a的网站| 成在人线av无码免费高潮水| 国产精品老熟女露脸视频| 末成年娇小性色xxxxx| 蜜国产精品jk白丝av网站| 好爽插到我子宫了高清在线| √天堂资源8在线官网| 国产乱码一区二区三区免费| 久久调教视频| 激情欧美一区| 男人的天堂你懂的| 性人久久网av| 中文字幕日本在线观看| 国产 | 久你欧洲野花视频欧洲1 | 亚洲性网| 男女日批视频| 97久久精品国产一区二区三区 | 亚洲高清国产拍精品熟女| a级毛片在线看日本| 777777av| 夜夜澡人摸人人添人人看| 91天堂素人| 无码国产精品一区二区免费3p| 免费三级毛片| 亚洲国产激情五月色丁香小说| 成人免费b2b网站大全在线| 精品国产自线午夜福利| 久草女人| 亚洲三级精品| 亚洲第一视频| 久久影院视频| 日本无码人妻波多野结衣| 2019久久久高清456| 午夜少妇性影院私人影院| a黄视频| 无码人妻丰满熟妇片毛片| 欧美视频色| 51av在线视频| 欧美精品黄色| 成人免费毛片男人用品| 欧美a级大片| 蜜臀av色欲a片无码一区| 在线免费观看成人| 中文字幕无线码一区| 国产精品国产精品偷麻豆| 欧美三级大片| 国内精品久久久久影视| 激情黄色小视频| 无套内射极品少妇chinese| 黄网站免费永久在线观看下载| 中文字幕无码免费不卡视频| 精品99在线| 天堂欧美城网站网址| 无码人妻h动漫网站| 羞羞午夜福利免费视频| 日本精品99| a级高清毛片| 中文字幕久久av| 免费三级黄色| 中文精品一卡2卡3卡4卡国色| 成人孕妇专区做爰高潮| 日日碰日日摸日日澡视频播放| 丰满又黄又爽少妇毛片| 18女下面流水不遮图| 稀缺呦国内精品呦| 亚洲国产成人精品久久| 狠狠老司机| 国产高清免费视频| 欧美激情在线一区二区| 国产男女性潮高清免费网站| 老熟妇仑乱视频一区二区| 日本在线a一区视频高清视频| 精品乱码一区内射人妻无码| 欧美色哟哟| 性做久久久久| 一级少妇淫片免费观看| 国产在线观看黄av免费| 黄色的毛片| 思思久婷婷五月综合色啪| 日本天堂在线播放| 免费久久一级欧美特大黄| 免费看的av片| 国产999久久久| 丰满人妻熟妇乱又伦精品劲| 国产综合亚洲精品一区二| 波多野结衣在线视频免费观看| 国产无遮挡免费| 国产毛多水多高潮高清| 欧美大片aaa| 色播影院性播影院私人影院| 国产女人精品视频国产灰线| 亚洲最大av网站在线观看| 亚洲欧美高清在线| 久热免费在线视频| 国产曰又深又爽免费视频| 另类激情综合| 青青草无码免费一二三区| 国产一区二区三区高清在线观看| 四虎影视免费在线观看| 亚洲熟妇无码乱子av电影| 国产日韩av在线播放| 亚洲欧美另类精品二区| 日韩在线一级片| 蜜桃免费av| 国产免费丝袜调教视频免费的| a久久久久| 久久福利网站| 黄色三级在线视频| 一级做a爰片久久毛片一| 伊人干综合| 成年女人色毛片| 成人精品视频| 日韩精品一区二区三区四区| 爱爱中文字幕| 日韩精品一区二区视频| 欧洲精品久久| 国产md视频一区二区三区| 日韩 亚洲 欧美 国产 精品| 禁久久精品乱码| 好了av四色综合网站| 91视频中文| 免费精品在线| wwwwww国产| 国产模特av私拍大尺度| 国产激情无码视频在线播放| 99在线免费| 国产一区二区观看| 国产成人精品免费视频网页大全 | 成人午夜免费无码区| 欧美三级中文字幕| 亚韩精品中文字幕无码视频| 国产v片| 在线观看日韩一区二区| 美女大逼| 色女孩综合网| 人妻熟妇乱又伦精品视频app| 丰满少妇高潮在线播放不卡| 一个本道久久综合久久88| 岛国在线无码高清视频| 黄色片在线观看视频| 亚洲日韩精品看片无码| 日本国产乱弄免费视频| 干在线视频| 国产白嫩护士被弄高潮| 一个色亚洲| 亚洲福利在线观看| 国产小呦泬泬99精品| 特黄熟妇丰满人妻无码| 日韩在线一二| 日韩成人片| 欧美四虎| 免费女女同性av网站| 人人草在线| 中文精品久久久久人妻| 国产乱色国产精品播放视频| 瑜伽美女健身视频集锦| 婷婷综合亚洲| 一边吃奶一边添p好爽高清视频| 国产在线精品一区| 亚洲福利精品视频| 卡一1卡2卡三卡4卡精品网站| 亚洲真人无码永久在线观看| 亚洲熟妇国产熟妇肥婆| 99国产精品久久久久久久| 久久青青草原精品国产app| 欧美黄在线观看| 99ri在线| 久久久精品456亚洲影院| 亚洲中文字幕永久在线全国| 极品久久久久| 日韩精品一区二区三区在线观看| 91麻豆vodafone精品| 欧美激情综合五月色丁香小说| 久久一区亚洲| 特级a欧美做爰片三人交| 国产玉足脚交极品在线播放| www天天干com| 天天爽天天爽天天爽| 制服丝袜另类专区制服| 久久精品久久久久久久久久久久久 | 中文字幕乱码中文乱码51精品 | xxxx毛片| 国产亚洲黄色片| 免费va国产高清大片在线| 伊人天堂av| 精品国产乱码久久久久| 亚洲乱人伦| www.av欧美| 国产av无码日韩av无码网站| 在线观看不卡av| 手机在线观看免费av| 人妻少妇精品无码专区app| 少妇高潮惨叫久久久久久| 曰本a∨久久综合久久| 天天躁日日躁狠狠躁人妻 | 成人在线a| 欧美日韩亚洲国产精品| 精品日产卡一卡二卡麻豆| 天堂网www在线资源中文| 色综合激情网| 国自产拍偷拍精品啪啪| 欧美日韩免费做爰大片人| 日本一级黄色毛片| 日韩福利| 成人免费看片入口| 好男人社区在线www| 日韩精品无码久久一区二区三| 国产三级影院| 天堂av免费| 老牛嫩草一区二区三区日本| 国语对白做受xxxxx在| 国产一伦一伦一伦| 丝袜国产在线| 天堂网在线播放| 国产午夜大片| 亚洲精品第一国产综合野草社区 | 特黄特色大片免费播放叫疼| 亚洲中文字幕婷婷在线| 久久99精品久久久久久吃药| 五月丁香久久综合网站| 妇女伦子伦视频国产| 在线视频国产网址你懂的| 日本又色又爽又黄又高潮| 91无限观看| 午夜视频在线播放一三| 欧美在线视频你懂的| 欧美一级久久久| 日本一区二区三区免费播放视频了 | 国产黄a三级三级看三级| 欧美色频| 午夜精品久久久久久毛片| 国产精品久久久久久久久久久久午夜| 日韩精品乱码| yy成人综合网| 成人免费大全| 深夜国产一区二区三区在线看| www久久久天天com| 国产69精品久久久久久野外| 国产精品99久久久| 国产精品视频500部| 性日本xxx| 中文字幕免费| 国产精品成人免费999| 日本成人三级| 日韩日日夜夜| 人人看人人爱| 亚洲欧美成人一区二区三区| 少妇一边呻吟一边说使劲| 国产suv精品一区二区33| 日韩在线免费播放| 大胸奶汁乳流奶水出来h| 91无毒不卡| 久久系列| 深夜网站在线| 日韩福利一区二区| 无人区乱码一区二区三区| 成人午夜网| 日韩三级免费| 曰的好深好爽免费视频网站| 国产精品video| 婷婷色激情| 大学生高潮无套内谢视频| 91hd精品少妇| 伊人导航| 欧美精品亚洲精品日韩传电影| 黄色生活毛片| 在线观看成年人视频| 成人精品毛片国产亚洲av十九禁| 日韩极品视频在线观看| 樱花草在线播放免费中文| av在线中文| 乳女教师の诱惑julia| 久久久a级片| 毛茸茸熟妇丰满张开腿呻吟性视频| 乱日视频| 免费国偷自产拍精品视频| 91av在| 91精品一区二区中文字幕| 日韩精品无码去免费专区| 日韩福利在线| 免费无码又爽又刺激激情视频软件| av日韩中文字幕| 五月av综合av国产av| 天天影视色香欲综合久久| 欧美精品在线观看| 香港a毛片| 黄色不卡视频| 日本亚洲在线| 国产超91| 色老汉av一区二区三区| 久草视频福利| 毛片在线视频播放| 午夜美女在线| 国产嫩草在线观看视频| 国产精品久久久国产盗摄蜜臀| 中韩乱幕日产无线码一区| 日本无码人妻丰满熟妇区| 国产精品白丝av网站在线观看| 你懂的国产视频| 国产成人aaa| 国产乱人伦精品| 久久老子午夜精品无码怎么打| 国产+日韩+另类+视频一区| 最近中文字幕mv在线视频看| 综合色综合| 一级黄色片在线| aa区一区二区三无码精片| 无码日韩精品一区二区人妻| jizz美女| 亚洲欧美国产毛片在线| 殴美性生活| 亚洲精品乱码久久观看网| 成人免费高清视频| 亚洲看片lutube在线观看| 色惰日本视频网站www| 西西人体www大胆高清视频| 色呦呦在线观看视频| 懂色a v| www.youjizz日本| 精品一区二区三区波多野结衣| 欧美激情图片| 国产精品88久久久久久妇女| 朝鲜一级特黄真人毛片| 久久97超碰色中文字幕总站| heyzo北岛玲在线播放| 亚洲九九视频| 九九视屏| 久久噜噜噜| 色妹子综合| 激情四虎| 在线a人片免费观看| 欧美精品videosbestsex日本| 日韩亚洲中字无码一区二区三区| 午夜男人的天堂| 亚洲成av人最新无码不卡短片| 日本在线视频www鲁啊鲁| 30一40一50老女人毛片| 国产亚洲婷婷香蕉久久精品| 亚洲精品中文字幕制| 一本久在线| 亚洲尤码不卡av麻豆| 亚洲天堂导航| 人妻无码一区二区三区 tv| 欧美成人久久久免费播放| 麻豆av在线| 色婷婷久久久| 91xxx在线观看| 免费看撕开奶罩揉吮奶头视频| 天天色天天操天天射| 欧美处交wwwvideos另类| 欧美视频在线一区| 免费裸体黄网站18禁免费| 亚洲欧美日韩精品专区| 狠狠激情| 国内精品免费视频自在线拍| 天堂v亚洲国产v第一次| 国产一级做a爱片| 另类图片婷婷| 天堂av资源| 亚洲一区小说| 久久精品视频免费看| 人人妻人人澡人人爽偷拍台湾| 日本理论视频| 91成熟丰满女人少妇尤物| 爱逼综合网| 国产亚洲福利| 黑人与中国少妇xxxx视频在线| av大全免费观看| 欧美www.| 一级α片免费看| 在线中文字幕有码中文| 久久亚洲精品无码aⅴ大香| 真人第一次毛片| 精品一区二区无码免费| 亚欧免费无码aⅴ在线观看| 国产精品一区二区三区免费| 椎名由奈中文字幕| 欧美精品aaa| 国产免费大片| 操碰91| 99视频精品在线| 欧洲人激情毛片无码视频| 黄色一级视频网| 天天摸夜夜添狠狠添婷婷| 色av性av丰满av| 成人99一区二区激情免费看| 久久成人小视频| 欧美精品啪啪| 国产白浆喷水在线视频| av在线黄| 国产乱淫精品一区二区三区毛片| 欧美xxxx18性欧美| 男女做爰猛烈叫床爽爽免费网站| 亚色在线视频| 78国产伦精品一区二区三区| 久久久精品二区| 野战视频aaaaa免费观看| 国产重口老太和小伙乱| 污污网站免费在线观看| 精品人妻中文无码av在线| 极品主播超大尺度福利视频在线| 久久久国产精品一区二区18禁| 久热这里只有精品99在线观看| 丁香在线| 日韩中文在线视频| 少妇精品视频无码专区| 91久久精品一区二区三区| 欧美日韩四区| 乱码丰满人妻一二三区| 日本特黄特色大片免费视频老年人 | 九九最新视频完整| 成年人免费视频网站| 操欧美老逼| 九九色精品| 91.xxx.视频| 无人区乱码一区二区三区| 秋霞特色aa大片| 夜夜嗨一区| 天干天干天啪啪夜爽爽av| 久久久久久9| 亚洲欧美熟妇综合久久久久| 日韩区在线| 国产夫妻自拍小视频| 色午夜日本高清视频www| 熟妇人妻中文av无码| 中文在线а√在线8| 九色丨9lpony丨国产| 看全黄大色黄大片| 亚洲男人av天堂午夜在| 毛片1000部免费看| 国产精品女同一区二区| 久久性色av亚洲电影| 亚洲视频国产| 国内精品久久久人妻中文字幕| 国产精品一区二区高清在线| 国产精品九九视频| 国产av国片精品| av网站大全在线| 九九精品99久久久香蕉| 麻豆一二三区av传媒| yyyy11111少妇影院| 免费看一级黄色大全| 国产三级精品三级在线专1| 亚洲图片日本v视频免费| 丁香婷婷激情国产高清秒播| 国产成人亚洲精品无码电影不卡| 国精品人妻无码一区二区三区蜜柚 | 少妇激情视频一二三区| 亚洲精品国偷自产在线99正片| 91最新在线| 色婷婷免费| 国产人妖在线视频| 国产超碰无码最新上传| 偷拍中国夫妇高潮视频| 国产99在线 | 欧美| 日韩av一区二区三区免费看| 久久99精品久久久久婷婷| 我的邻居在线观看| 国产人妻精品一区二区三区不卡| www日本com| 中文人妻av高清一区二区| 136fldh福利视频导在线| 热re99久久精品国产99热| 日韩激情视频网站| 少妇高潮久久久久久潘金莲| 2021在线精品自偷自拍无码| 亚洲xxxxxx| 无线乱码一二三区免费看| 日韩成人午夜影院| 国产乡下妇女三片| 日本视频免费在线| 亚洲综合色成在线观看| 久久网中文字幕日韩精品专区四季 | q欧美性猛交xxx7乱大交| 中国农村一级片| 国产成人尤物在线视频| 大吊av| 国产原创一区二区| www.香蕉视频| 成人一卡二卡| 国产乱码精品一区二三区蜜臂| 天天操夜夜操| 狠狠色噜噜狠狠狠狠2021| 成人欧美一区二区三区黑人动态图| 亚洲自偷自拍熟女另类| 亚洲一区二区三区乱码在线欧洲| 日本涩涩网| 国产人成| 欧美深夜在线| 久久黄色影院| 天天干在线观看| 国产精品女同久久久久电影院| 成人网在线观看| 亚洲精品v日韩精品| 亚洲激情成人| 国产毛片久久久久久| 亚洲一区二区乱码| 超碰在线进入| 欧美精品久久99| 福利色播| 久在操| 国产日韩在线观看视频| 国产chinese| 性欧美18一19内谢| 最新国产99热这里只有精品| 草草久久久| 午夜性做爰免费看| 激情av无码后入| 91久色| 人人爱爱人人| 国产98色在线 | 日韩| 亚洲 另类 小说 国产精品无码| 奇米第四色7777| 免费观看久久| 亚洲国产av无码精品无广告| 日韩少妇av| 啪啪影音| 你懂的欧美| av国产japan在线播放| 免费无码黄网站在线看| 国产在线精品一区二区中文| 国产精品久久久国产偷窥| youjizz中国少妇| 岛国片在线播放97| 一区二区精品视频日本| 无码手机线免费播放三区视频| 亚洲成av人片天堂网老年人| 动漫羞羞| 精品国产乱码久久久久久三级人| 国产免费啪啪| 亚洲精品久久久久999666| 国产日韩精品中文字无码| av天天色| 欧美日免费| 无码视频一区二区三区| 黑人与中国少妇xxxx视频| 欧洲美女黑人粗性暴交视频| 91在线无精精品一区二区| 国产精品色呦呦| 美女性生活视频| 性一交一黄一片| 在线观看三级视频| 女同久久另类99精品国产| 六月丁香婷婷激情| 成人777| 国产成+人+综合+亚洲 欧美| 色八戒av| 日日躁狠狠躁aaaaxxxx| 精品久久8x国产免费观看| 黄网在线观看视频| 精品人妻系列无码专区久久| jizz性欧美丰满|