cache

package
Version: v1.3.4 Latest Latest
Warning

This package is not in the latest version of its module.

Go to latest
Published: Feb 15, 2020 License: Apache-2.0 Imports: 3 Imported by: 324

Documentation

Index

Constants

This section is empty.

Variables

View Source
var (
	// 点击开始按钮的时间点
	StartTime time.Time
	// 文本数据小结报告
	ReportChan chan *Report
)
View Source
var Task = new(AppConf)

该初始值即默认值

Functions

func ExecInit

func ExecInit(order int)

标记当前init()已执行完毕

func GetPageCount

func GetPageCount(i int) uint64

0 返回总下载页数,负数 返回失败数,正数 返回成功数

func PageFailCount

func PageFailCount()

func PageSuccCount

func PageSuccCount()

func ResetPageCount

func ResetPageCount()

重置页面计数

func WaitInit

func WaitInit(order int)

等待指定init()执行完毕 需并发协程中调用

Types

type AppConf

type AppConf struct {
	Mode           int    // 节点角色
	Port           int    // 主节点端口
	Master         string // 服务器(主节点)地址,不含端口
	ThreadNum      int    // 全局最大并发量
	Pausetime      int64  // 暂停时长参考/ms(随机: Pausetime/2 ~ Pausetime*2)
	OutType        string // 输出方式
	DockerCap      int    // 分段转储容器容量
	Limit          int64  // 采集上限,0为不限,若在规则中设置初始值为LIMIT则为自定义限制,否则默认限制请求数
	ProxyMinute    int64  // 代理IP更换的间隔分钟数
	SuccessInherit bool   // 继承历史成功记录
	FailureInherit bool   // 继承历史失败记录
	// 选填项
	Keyins string // 自定义输入,后期切分为多个任务的Keyin自定义配置
}

任务运行时公共配置

type Report

type Report struct {
	SpiderName string
	Keyin      string
	DataNum    uint64
	FileNum    uint64
	// DataSize   uint64
	// FileSize uint64
	Time time.Duration
}

Source Files

Jump to

Keyboard shortcuts

? : This menu
/ : Search site
f or F : Jump to
y or Y : Canonical URL