linux top 命令详解
linux top 命令详解
top命令是Linux下常用的性能分析工具,能够实时显示系统中各个进程的资源占用状况。
参数
cpu
usr:用户空间cpu占用率
sys:系统内核cpu占用率
nic:改变过优先级的进程占用CPU的百分比
idle:空闲CPU百分比
io:IO等待占用CPU的百分比
irq: 硬中断占用CPU的百分比
sirq: 软中断占用CPU的百分比
Load average:负载均衡,1分钟、5分钟、15分钟的负载情况。
htop
Asking Complex Questions with Multi-hop Answer-focused Reasoning
Asking Complex Questions with Multi-hop Answer-focused Reasoning
论文:Asking Complex Questions with Multi-hop Answer-focused Reasoning
代码:https://github.com/Shawn617/Multi-hop-NQG
任务multihop question generation
大多数先进的方法都集中在涉及单跳关系的简单问题的提问上,本文提出了一种名为多跳问题生成的新任务,通过额外发现和建模给定文档集合和相应答案的多个实体及其语义关系来提出复杂的和语义相关的问题。
示例:
方法(模型)multi-hop answer-focused reasoning model
本文提出了在以答案为中心的实体图上进行以答案为中心的多跳推理,以包括不同粒度级别的语义信息,包括实体的词级和文档级语义及其语义关系。
通过提取文档中各个实体之间不同类型的语义关系来构建以答案为中心(answer-centric entity graph)的实体图,从而实现多跳推理。
M ...
tag-based-multi-span-extraction
tag-based-multi-span-extraction
代码:https://github.com/eladsegal/tag-based-multi-span-extraction
论文:A Simple and Effective Model for Answering Multi-span Questions
配置环境变量添加代理
1scp -r zhaoxiaofeng@219.216.64.175:~/.proxychains ./
修改~/.bashrc,在末尾添加指令别名
12alias proxy=/data0/zhaoxiaofeng/usr/bin/proxychains4 # 77, 175, 206只添加这条 alias aliasproxy=/home/zhaoxiaofeng/usr/bin/proxychains4 # 154只添加这条
下载代码:
1git clone https://github.com/eladsegal/tag-based-multi-span-extraction
配置环境
12345proxy conda ...
HOTPOTQA A Dataset for Diverse, Explainable Multi-hop Question Answering
HOTPOTQA A Dataset for Diverse, Explainable Multi-hop Question Answering
论文:https://arxiv.org/pdf/1809.09600.pdf
一个多样的,可解释的多跳问答数据集。
任务现有的问答数据集不能训练QA系统进行复杂的推理并提供答案的解释。提出hotpot数据集,提供支持事实使模型能够改进性能并做出可解释的预测。
HOTPOTQA介绍HOTPOTQA是一个新的数据集,拥有113k个基于Wikipedia的问答对,具有以下四个关键特性:
这些问题需要在多个支持文档上找到答案并进行推理。
问题是多样的,不局限于任何预先存在的知识库或知识模式。
提供推理所需的句子级支持事实,允许QA系统在强监督下推理并解释预测。
提出了一种新的factoid comparison questions来测试QA系统提取相关事实和进行必要比较的能力。
数据集数据集划分single-hop数据集:The train-easy set contains 18,089 mostly single-hop examples ...
PyTorch学习笔记(一)
PyTorch学习笔记(一)创建张量 Tensorstorch.rand1torch.rand(*sizes, out=None) → Tensor
返回一个张量,包含了从区间[0,1)的均匀分布中抽取的一组随机数,形状由可变参数sizes 定义。
参数:
sizes (int…) – 整数序列,定义了输出形状
out (Tensor, optinal) - 结果张量
例子:
12345678910111213>>> torch.rand(4) 0.9193 0.3347 0.3232 0.7715[torch.FloatTensor of size 4]>>> torch.rand(2, 3) 0.5010 0.5140 0.0719 0.1435 0.5636 0.0538[torch.FloatTensor of size 2x3]
torch.randn1torch.randn(*sizes, out=None) → Tensor
返回一个张量,包含了从标准正态分布(均值为0,方差为 1,即高斯白噪声)中抽取一组随机数,形状由可 ...
PyTorch学习笔记(三)
PyTorch学习笔记(三)随机抽样 Random samplingtorch.manual_seed1torch.manual_seed(seed)
设定生成随机数的种子,并返回一个 torch._C.Generator 对象
参数:
seed (int or long) – 种子
torch.initial_seed1torch.initial_seed()
返回生成随机数的原始种子值(python long)
torch.get_rng_state1torch.get_rng_state
返回随机生成器状态(ByteTensor)
torch.set_rng_state1torch.set_rng_state(new_state)
设定随机生成器状态
参数:
new_state (torch.ByteTensor) – 期望的状态
torch.torch.bernoulli从伯努利分布中抽取二元随机数(0 或者 1)。
输入张量须包含用于抽取上述二元随机值的概率。 因此,输入中的所有值都必须在[0,1]区间,即 $0<=input_i<=1$
输出张量的 ...
PyTorch学习笔记(二)
PyTorch学习笔记(二)
dimension:0行 1列
张量操作torch.cat1torch.cat(inputs, dimension=0) → Tensor
在给定维度上对输入的张量序列seq进行连接操作。
torch.cat()可以看做 torch.split() 和 torch.chunk()的反操作。 cat() 函数可以通过下面例子更好的理解。
参数:
inputs (sequence of Tensors) – 可以是任意相同Tensor 类型的python 序列。
dimension (int, optional) – 沿着此维连接张量序列。
例子:
12345678910111213141516171819202122>>> x = torch.randn(2, 3)>>> x 0.5983 -0.0341 2.4918 1.5981 -0.5265 -0.8735[torch.FloatTensor of size 2x3]>>> torch.cat((x, x, x), 0) 0.5983 -0 ...
PyTorch学习笔记(四)
PyTorch学习笔记(四)数学操作Math operationstorch.abs1torch.abs(input, out=None) → Tensor
计算输入张量的每个元素绝对值。
例子:
12>>> torch.abs(torch.FloatTensor([-1, -2, 3]))FloatTensor([1, 2, 3])
torch.add()1torch.add(input, value, out=None)
对输入张量input逐元素加上标量值value,并返回结果到一个新的张量out,即 $out=tensor+value$。
参数:
input (Tensor) – 输入张量
value (Number) – 添加到输入每个元素的数
out (Tensor, optional) – 结果张量
1torch.add(input, value=1, other, out=None)
other张量的每个元素乘以一个标量值value,并加到input 张量上。返回结果到输出张量out。即,$out=input+(other∗value)$
两个张量 ...
使用Nginx配置同一端口访问不同路径下的文件
使用Nginx配置同一端口访问不同路径下的文件
编辑配置文件
1/etc/nginx/nginx.conf
1234567891011121314151617181920212223242526272829303132333435363738394041424344454647484950# http server { listen 80 default_server; listen [::]:80 default_server; server_name www.asimok.com; # Load configuration files for the default server block. include /etc/nginx/default.d/*.conf; location / { root /root/mq_blog/public; index index.html; } ...
Multi-hop Question Answering via Reasoning Chains
Multi-hop Question Answering via Reasoning Chains
论文:2019-Multi-hop Question Answering via Reasoning Chains
基于推理链的多跳问题回答
任务 本文提出了一种在文本中提取离散推理链的方法,模型不依赖于gold annotated chains or “supporting facts,使用基于命名实体识别和共指消解的启发式算法得到的pseudogold reasoning chains。
推理链是一系列的句子,逻辑上把问题与一个事实联系起来,这个事实与给出一个合理的答案相关(或部分相关)。
方法(模型)提出一个two-stage model
extractor model:提取推理路径。extractor模型对句子序列进行评分,并通过beam search生成n-best链列表。
answer module:将提取的推理链输入到BERT中提取最终的答案。
Learning to Extract ChainsHeuristic oracle chain co ...
python——pickle模块的详解
python——pickle模块的详解介绍
pickle模块实现了用于序列化和反序列化Python对象结构的二进制协议
“Pickling”是将Python对象层次结构转换为字节流的过程, “unpickling”是反向操作,从而将字节流(来自二进制文件或类似字节的对象)转换回对象层次结构。
pickle协议和JSON(JavaScript Object Notation)的区别 :
JSON是一种文本序列化格式(它输出unicode文本,虽然大部分时间它被编码utf-8),而pickle是二进制序列化格式;
JSON是人类可读的,而pickle则不是;
JSON是可互操作的,并且在Python生态系统之外广泛使用,而pickle是特定于Python的;
pickle可以表示极其庞大的Python类型(其中许多是自动的,通过巧妙地使用Python的内省工具;复杂的案例可以通过实现特定的对象API来解决)。
pickle 数据格式是特定于Python的。它的优点是没有外部标准强加的限制, 但是这意味着非Python程序可能无法重建pickled Python对象。
APIdu ...
python——type hints
python——type hints介绍
type hints 主要是要指示函数的输入和输出的数据类型,数据类型在typing 包中,基本类型有str,list,dict等等。
123def hello(name: str) -> None: print('hello {}'.format(name))
常用类型Union
Union 是当有多种可能的数据类型时使用,比如函数有可能根据不同情况有时返回str或返回list,那么就可以写成Union[list, str]
Optional
Optional是Union的一个简化, 当数据类型中有可能是None时,比如有可能是str也有可能是None,则Optional[str], 相当于Union[str, None]. 注意和函数有默认参数None有区别,不可省略默认参数,如下示例:
123原始:def func(args = None):错:def func(args:Optional[str]) -> None:对:def func(args:Optional[str ...
环境配置
环境配置pip配置文件:
1~/.pip/pip.conf
更换国内镜像源:
1234[global]index-url = http://mirrors.aliyun.com/pypi/simple/[install]trusted-host = mirrors.aliyun.com
TensorFlow-gpu
为避免出错 pytorch和tensorflow都使用conda install安装
anconda conda create -n tf python=3.6
cuda deb
pytorch 官网 自动安装cudnn
https://pytorch.org/get-started/locally/
conda install pytorch torchvision torchaudio cudatoolkit=10.1 -c pytorch 测试:
12import torchtorch.cuda.is_available()
TensorFlow gpu conda install tensorflow-gpu 测试:
import ...
AllenNLP实践
AllenNLP
https://allennlp.org/
安装1234567conda create -n allennlp python=3.7pip install allennlppip install allennlp-modelspip install allennlp_optunagit clone https://github.com/allenai/allennlp-servercd allennlp-serverpip install --editable .
安装老版本12conda create -n allennlp python=3.6.9