专业提供无毒且安全的软件及游戏下载!
当前位置:首页 > 电脑软件 > 编程开发 >Luigi(批处理作业管道) v3.0.2 官方版

Luigi(批处理作业管道) v3.0.2 官方版

  • 软件大小:2.21MB
  • 更新日期:2021-04-23
  • 语言:简体中文
  • 类别:编程开发
  • 适用环境:WinAll
  • 安全检测: 无插件 360通过 腾讯通过 金山通过 瑞星通过
  • 本地下载

    普通http下载速度慢

软件介绍

Luigi是一款基于Python语言而开发的开源数据流框架,我们可以通过Luigi免费版来解决批处理过程相关的所有管道问题,并且还可以进行工作流管理、可视化等多种简易操作哦!

Luigi下载

Luigi软件简介

Luigi 是一个 Python 模块,可以帮你构建复杂的批量作业管道。处理依赖决议、工作流管理、可视化展示等等,内建 Hadoop 支持。它也被Foursquare,Stripe,华尔街日报,Groupon和其他知名企业使用。

Luigi是基于代码的,而不是基于GUI或声明式的,包含Python中的所有内容(包括依赖关系图)。用户界面(UI)允许您搜索,过滤或监视每个任务的状态。您还可以查看该工作流程,以查看依赖关系图上的哪些任务已完成,哪些尚未运行。

软件功能

Task

每一个任务都是一个Task,以class的形式存在,继承luigi.Task。需要重载requires()、run()、output()方法。

其中requires()是任务入口程序,指定任务依赖的上游输入;run()是任务在该节点具体实现的流程;output()是任务的出口,把该节点执行完之后的结果输出到下游。

Target

广义地讲,Target可对应为磁盘上的文件,或HDFS上文件,或checkpoint点,或数据库等。对于Target来说,唯一需要实现的方法为exists,返回为True表示存在,否则不存在返回为False. 在实际应用时,写一个Target子类是很少需要用到的。直接使用开箱即可用的LocalTarget及 hdfs.HdfsTarget类就够用了。Luigi提供了Gzip支持,通过参数format=format.Gzip即可。

parameter

parameter等效于luigi为task类创建构造函数,Luigi中提供了不同类型的parameter,例如DateParameter,DateIntervalParameter,IntParameter,FloatParameter等等。

python不是一个静态类型的语言,你不需要指定参数的类型,你可以直接使用基类Parameter。

用户评论
所有评论(5)
昵称:
(您的评论需要经过审核才能显示)
精选留言 来自广西崇左联通用户 发表于: 2023-7-16
很需要这种软件,谢谢分享。
精选留言 来自湖南娄底移动用户 发表于: 2023-3-4
脑子笨了点,还是这款软件方便
精选留言 来自山西运城电信用户 发表于: 2023-10-25
真的超级好用,完全免费,太棒了,现在很少见完全免费的软件了
精选留言 来自甘肃金昌电信用户 发表于: 2023-11-26
我心目中的战神软件
精选留言 来自宁夏固原电信用户 发表于: 2023-4-18
非常不错,很久都没看到这么良心的软件了

软件投诉或纠错

问题:
说明:
邮箱: