当前位置:网站首页 > Python编程 > 正文

python读取pcap文件(python读取pkl文件)



  对于一个network IO (这里我们以read举例),它会涉及到两个系统对象,一个是调用这个IO的process (or thread),另一个就是系统内核(kernel)。当一个read操作发生时,该操作会经历两个阶段:等待数据准备 (Waiting for the data to be ready);将数据从内核拷贝到进程中(Copying the data from the kernel to the process)。常见主要IO模型介绍如下:

一、阻塞IO(blocking IO)

python调用训练好的pkl模型预测_epoll

  当用户进程调用了recvfrom这个系统调用,kernel就开始了IO的第一个阶段:准备数据。对于network io来说,很多时候数据在一开始还没有到达(比如,还没有收到一个完整的UDP包),这个时候kernel就要等待足够的数据到来。

而在用户进程这边,整个进程会被阻塞。当kernel一直等到数据准备好了,它就会将数据从kernel中拷贝到用户内存,然后kernel返回结果,用户进程才解除block的状态,重新运行起来。

  实际上,除非特别指定,几乎所有的IO接口 ( 包括socket接口 ) 都是阻塞型的。这给网络编程带来了一个很大的问题,如在调用recv(1024)的同时,线程将被阻塞,在此期间,线程将无法执行任何运算或响应任何的网络请求。解决此办法我们之前曾使用开多进程、多线程,进程池、线程池。但是开启多进程或都线程的方式,在遇到要同时响应成百上千路的连接请求,则无论多线程还是多进程都会严重占据系统资源,降低系统对外界响应效率,而且线程与进程本身也更容易进入假死状态。“线程池”和“连接池”技术也只是在一定程度上缓解了频繁调用IO接口带来的资源占用。而且,所谓“池”始终有其上限,当请求大大超过上限时,“池”构成的系统对外界的响应并不比没有池的时候效果好多少。所以使用“池”必须考虑其面临的响应规模,并根据响应规模调整“池”的大小。

  对应上例中的所面临的可能同时出现的上千甚至上万次的客户端请求,“线程池”或“连接池”或许可以缓解部分压力,但是不能解决所有问题。总之,多线程模型可以方便高效的解决小规模的服务请求,但面对大规模的服务请求,多线程模型也会遇到瓶颈,可以用非阻塞接口来尝试解决这个问题。

二、 非阻塞IO(non-blocking IO)

  Linux下,可以通过设置socket使其变为non-blocking。当对一个non-blocking socket执行读操作时,流程是这个样子:

python调用训练好的pkl模型预测_python_02

  从图中可以看出,当用户进程发出read操作时,如果kernel中的数据还没有准备好,那么它并不会block用户进程,而是立刻返回一个error。从用户进程角度讲 ,它发起一个read操作后,并不需要等待,而是马上就得到了一个结果。用户进程判断结果是一个error时,它就知道数据还没有准备好,于是用户就可以在本次到下次再发起read询问的时间间隔内做其他事情,或者直接再次发送read操作。一旦kernel中的数据准备好了,并且又再次收到了用户进程的system call,那么它马上就将数据拷贝到了用户内存(这一阶段仍然是阻塞的),然后返回。所以,在非阻塞式IO中,用户进程其实是需要不断的主动询问kernel数据准备好了没有。

  实例:

  以上非阻塞IO虽然存在降低阻塞的优点,但是也难隐藏其主要两大缺点:循环调用查询将大幅提高CPU的占有率;任务完成的响应延迟增大,因为可能刚好查看完成,数据就准备好,但是数据的接收只能等下次的查询到此连接的时候。故非阻塞IO绝不被推荐。

三、多路复用IO(IO multiplexing)

  它的基本原理就是select/epoll这个function会不断的轮询所负责的所有socket,当某个socket有数据到达了,就通知用户进程。它的流程如图:

python调用训练好的pkl模型预测_数据_03

  实例:

四、异步IO(Asynchronous I/O)

  顾名思义,异步就是不会原地等待结果,用户进程发起read操作之后,立刻就可以开始去做其它的事。而另一方面,从kernel的角度,当它受到一个asynchronous read之后,首先它会立刻返回,所以不会对用户进程产生任何block。然后,kernel会等待数据准备完成,然后将数据拷贝到用户内存,当这一切都完成之后,kernel会给用户进程发送一个signal,告诉它read操作完成了。

python调用训练好的pkl模型预测_epoll_04

   经过上面的介绍,会发现non-blocking IO和asynchronous IO的区别还是很明显的。在non-blocking IO中,虽然进程大部分时间都不会被block,但是它仍然要求进程去主动的check,并且当数据准备完成以后,也需要进程主动的再次调用recvfrom来将数据拷贝到用户内存。而asynchronous IO则完全不同。它就像是用户进程将整个IO操作交给了他人(kernel)完成,然后他人做完后发信号通知。在此期间,用户进程不需要去检查IO操作的状态,也不需要主动的去拷贝数据。

到此这篇python读取pcap文件(python读取pkl文件)的文章就介绍到这了,更多相关内容请继续浏览下面的相关推荐文章,希望大家都能在编程的领域有一番成就!

版权声明


相关文章:

  • python def函数怎么调用函数(python def 调用)2025-10-23 21:27:05
  • 列表的增删改查方法python(python列表的增加)2025-10-23 21:27:05
  • pivot函数Python(pivot函数中哪个不能省略)2025-10-23 21:27:05
  • 读取pcap文件中的csi(python读取pcap文件)2025-10-23 21:27:05
  • python函数没有return返回值会怎么样(python return 没有返回值)2025-10-23 21:27:05
  • python 字典 增加(python字典增加元素代码)2025-10-23 21:27:05
  • Python函数参数类型有哪些(python3 函数 参数类型)2025-10-23 21:27:05
  • win32gui.FindWindowEx的参数python(pywin32 findwindow)2025-10-23 21:27:05
  • python3.8新建py文件(python新建py文件代码)2025-10-23 21:27:05
  • list转string 逗号(list转string逗号隔开 python)2025-10-23 21:27:05
  • 全屏图片