1.Python 中的并行批处理
2.python语言的缺点

Python 中的并行批处理

       在Python中，利用joblib进行并行批处理是一种有效提升处理效率的方法。Joblib提供了直接的并行处理支持，但有时批处理工作负载更为实用。以下是关于如何使用joblib和tqdm进行批处理的讲解，所有示例代码可于Github源码链接找到，nehe的教程源码也可通过pip install tqdm_batch直接使用。

       当我们处理大型数据集时，常想利用多核并行加速。Python的multiprocessing和threading模块提供了基础，但它们需要额外的样板代码。joblib的并行处理简化了这一过程，例如，对于计算π的虚拟函数，我们只需微调，selenium ide源码就可在8核上实现近5倍的加速。然而，joblib默认的多处理方法并非总是最优，特别是当涉及大量数据序列化时，开销可能大于收益。

       理解多处理与多线程的区别，以及GIL（全局解释器锁）的宜人贷源码影响至关重要。GIL限制了同一时间只有一个线程执行Python字节码。多处理通过创建独立进程绕过GIL，但涉及大量数据的序列化会增加开销。相比之下，多线程共享内存，开销较少，但受限于GIL。cf权限源码在joblib中，可以使用prefer='threads'参数切换到多线程模式，但通常多处理是默认的高效选择。

       批处理方法通过将工作划分为等大小的批次，每个进程处理一个批次，从而减少序列化次数。比如，开源faq 源码对于一个大型模型分类任务，如果每个进程都独立处理每一行，会带来大量开销，但通过批处理，我们能显著降低这些开销，恢复与串行方法类似的性能。

       同时，批处理也带来挑战，如在多处理时，tqdm的进度条显示不再实时。为解决这个问题，我们可以利用进程间通信的队列，创建一个可以处理单行数据并更新进度条的包装器。最终，我们得到了一个更有效的并行批处理解决方案，用户可以通过pip安装tqdm_batch进行尝试。

       值得注意的是，增加工人数量并不总是线性提高效率，超过一定数量后，额外的进程可能不再带来性能提升。此外，超线程内核可能并不提供预期的性能提升。通过实际测试，我们可以看出不同工作人员数量对处理时间的影响。

python语言的缺点

       Python并不是没有缺点的，最主要的缺点有以下几个：

       Python的执行速度不够快。当然，这也不是一个很严重的问题，一般情况下，我们不会拿Python语言与C/C++这样的语言进行直接比较。在Python语言的执行速度上，一方面，网络或磁盘的延迟，会抵消掉部分Python本身消耗的时间；另一方面，因为Python特别容易和C结合起来，因此，我们可以通过分离一部分需要优化速度的应用，将其转换为编译好的扩展，并在整个系统中使用Python脚本将这部分应用连接起来，以提高程序的整体效率。

       Python的GIL锁限制并发：Python的另一个大问题是，对多处理器支持不好。如果读者接触Python时间比较长，那么，一定听说过GIL这个词。GIL是指Python全局解释器锁（GlobalInterpreterLock），当Python的默认解释器要执行字节码时，都需要先申请这个锁。这意味着，如果试图通过多线程扩展应用程序，将总是被这个全局解释器锁限制。当然，我们可以使用多进程的架构来提高程序的并发，也可以选择不同的Python实现来运行我们的程序。

       Python2与Python3不兼容：如果一个普通的软件或者库，不能够做到后向兼容，那么，它会被用户无情的抛弃了。在Python中，一个槽点是Python2与Python3不兼容。因为Python没有向后兼容，给所有的Python工程师带来了无数的烦恼。