9个鲜为人知的Python数据科学库

发表于:2018-12-11 10:47

字体: | 上一篇 | 下一篇 | 我要投稿

 作者:Parul Pandey    来源:Linux中国

分享:
  除了 pandas、scikit-learn 和 matplotlib,还要学习一些用 Python 进行数据科学的新技巧。
  Python 是一种令人惊叹的语言。事实上,它是世界上增长最快的编程语言之一。它一次又一次地证明了它在各个行业的开发者和数据科学者中的作用。Python 及其库的整个生态系统使其成为全世界用户的恰当选择,无论是初学者还是高级用户。它成功和受欢迎的原因之一是它的一组强大的库,使它如此动态和快速。
  在本文中,我们将看到 Python 库中的一些数据科学工具,而不是那些常用的工具,如 pandas、scikit-learn 和 matplotlib。虽然像 pandas、scikit-learn 这样的库是机器学习中最常想到的,但是了解这个领域的其他 Python 库也是非常有帮助的。
  Wget
  提取数据,尤其是从网络中提取数据,是数据科学家的重要任务之一。Wget 是一个免费的工具,用于从网络上非交互式下载文件。它支持 HTTP、HTTPS 和 FTP 协议,以及通过 HTTP 代理进行访问。因为它是非交互式的,所以即使用户没有登录,它也可以在后台工作。所以下次你想下载一个网站或者网页上的所有图片,wget 会提供帮助。
  安装:
 $ pip install wget
  例子:
   import wget
  url = 'http://www.futurecrew.com/skaven/song_files/mp3/razorback.mp3'
  filename = wget.download(url)
  100% [................................................] 3841532 / 3841532
  filename
  'razorback.mp3'
  钟摆
  对于在 Python 中处理日期时间感到沮丧的人来说, Pendulum 库是很有帮助的。这是一个 Python 包,可以简化日期时间操作。它是 Python 原生类的一个替代品。有关详细信息,请参阅其文档。
  安装:
 $ pip install pendulum
  例子:
   import pendulum
  dt_toronto = pendulum.datetime(2012, 1, 1, tz='America/Toronto')
  dt_vancouver = pendulum.datetime(2012, 1, 1, tz='America/Vancouver')
  print(dt_vancouver.diff(dt_toronto).in_hours())
  3
  不平衡学习
  当每个类别中的样本数几乎相同(即平衡)时,大多数分类算法会工作得最好。但是现实生活中的案例中充满了不平衡的数据集,这可能会影响到机器学习算法的学习和后续预测。幸运的是,imbalanced-learn 库就是为了解决这个问题而创建的。它与 scikit-learn 兼容,并且是 scikit-learn-contrib 项目的一部分。下次遇到不平衡的数据集时,可以尝试一下。
  安装:
   pip install -U imbalanced-learn
  # or
  conda install -c conda-forge imbalanced-learn
  例子:
  有关用法和示例,请参阅其文档 。
  FlashText
  在自然语言处理(NLP)任务中清理文本数据通常需要替换句子中的关键词或从句子中提取关键词。通常,这种操作可以用正则表达式来完成,但是如果要搜索的术语数达到数千个,它们可能会变得很麻烦。
  Python 的 FlashText 模块,基于 FlashText 算法,为这种情况提供了一个合适的替代方案。FlashText 的最佳部分是运行时间与搜索项的数量无关。你可以在其 文档 中读到更多关于它的信息。
  安装:
 $ pip install flashtext
  例子:
  提取关键词:
   from flashtext import KeywordProcessor
  keyword_processor = KeywordProcessor()
  # keyword_processor.add_keyword(<unclean name>, <standardised name>)
  keyword_processor.add_keyword('Big Apple', 'New York')
  keyword_processor.add_keyword('Bay Area')
  keywords_found = keyword_processor.extract_keywords('I love Big Apple and Bay Area.')
  keywords_found
  ['New York', 'Bay Area']
  替代关键词:
   keyword_processor.add_keyword('New Delhi', 'NCR region')
  new_sentence = keyword_processor.replace_keywords('I love Big Apple and new delhi.')
  new_sentence
  'I love New York and NCR region.'
  有关更多示例,请参阅文档中的 用法 一节。
  模糊处理
  这个名字听起来很奇怪,但是 FuzzyWuzzy 在字符串匹配方面是一个非常有用的库。它可以很容易地实现字符串匹配率、令牌匹配率等操作。对于匹配保存在不同数据库中的记录也很方便。
  安装:
 $ pip install fuzzywuzzy
  例子:
   from fuzzywuzzy import fuzz
  from fuzzywuzzy import process
  # 简单的匹配率
  fuzz.ratio("this is a test", "this is a test!")
  97
  # 部分的匹配率
  fuzz.partial_ratio("this is a test", "this is a test!")
  100
  更多的例子可以在 FuzzyWuzy 的 GitHub 仓库得到。
  PyFlux
  时间序列分析是机器学习中最常遇到的问题之一。PyFlux 是 Python 中的开源库,专门为处理时间序列问题而构建的。该库拥有一系列优秀的现代时间序列模型,包括但不限于 ARIMA、GARCH 以及 VAR 模型。简而言之,PyFlux 为时间序列建模提供了一种概率方法。这值得一试。
  安装:
 pip install pyflux
  例子:
  有关用法和示例,请参阅其 文档。
  IPyvolume
  交流结果是数据科学的一个重要方面,可视化结果提供了显著优势。 IPyvolume 是一个 Python 库,用于在 Jupyter 笔记本中可视化 3D 体积和形状(例如 3D 散点图),配置和工作量极小。然而,它目前处于 1.0 之前的阶段。一个很好的类比是这样的: IPyVolumee volshow 是 3D 阵列,Matplotlib 的 imshow 是 2D 阵列。你可以在其 文档 中读到更多关于它的信息。
  安装:
  Using pip
  $ pip install ipyvolume
  Conda/Anaconda
  $ conda install -c conda-forge ipyvolume
  例子:
  动画:
  体绘制:
  Dash
  Dash 是一个用于构建 Web 应用程序的高效 Python 框架。它构建于 Flask、Plotty.js 和 Response.js 之上,将下拉菜单、滑块和图形等流行 UI 元素与你的 Python 分析代码联系起来,而不需要JavaScript。Dash 非常适合构建可在 Web 浏览器中呈现的数据可视化应用程序。有关详细信息,请参阅其 用户指南 。
  安装:
  pip install dash==0.29.0  # The core dash backend
  pip install dash-html-components==0.13.2  # HTML components
  pip install dash-core-components==0.36.0  # Supercharged components
  pip install dash-table==3.1.3  # Interactive DataTable component (new!)  例子:
  下面的示例显示了一个具有下拉功能的高度交互的图表。当用户在下拉列表中选择一个值时,应用程序代码将数据从 Google Finance 动态导出到 Pandas 数据框架中。
  Gym
  从 OpenAI 而来的 Gym 是开发和比较强化学习算法的工具包。它与任何数值计算库兼容,如 TensorFlow 或 Theano。Gym 是一个测试问题的集合,也称为“环境”,你可以用它来制定你的强化学习算法。这些环境有一个共享的接口,允许您编写通用算法。
  安装:
 pip install gym
  例子:
  以下示例将在 CartPole-v0 环境中,运行 1000 次,在每一步渲染环境。
  你可以在 Gym 网站上读到 其它的环境 。
  结论
  这些是我挑选的有用但鲜为人知的数据科学 Python 库。如果你知道另一个要添加到这个列表中,请在下面的评论中提及。

     上文内容不用于商业目的,如涉及知识产权问题,请权利人联系博为峰小编(021-64471599-8017),我们将立即处理。
《2023软件测试行业现状调查报告》独家发布~

关注51Testing

联系我们

快捷面板 站点地图 联系我们 广告服务 关于我们 站长统计 发展历程

法律顾问:上海兰迪律师事务所 项棋律师
版权所有 上海博为峰软件技术股份有限公司 Copyright©51testing.com 2003-2024
投诉及意见反馈:webmaster@51testing.com; 业务联系:service@51testing.com 021-64471599-8017

沪ICP备05003035号

沪公网安备 31010102002173号