-
初识聚类算法:K均值、凝聚层次聚类和DBSCAN
所属栏目：[大数据] 日期：2021-03-07 热度：111
http://blog.sina.com.cn/s/blog_62186b460101ard2.html 聚类分析就仅根据在数据中发现的描述对象及其关系的信息，将数据对象分组(簇)。其目标是，组内的对象相互之间是相似的，而不同组中的对象是不同的。组内相似性越大，组间差别越大，聚类就越好。 先[详细]
-
大数据分析界的“神兽”Apache Kylin初解
所属栏目：[大数据] 日期：2021-03-07 热度：110
副标题#e# 转自李栋，来自Kyligence公司，也是Apache Kylin Committer PMC member，在加入Kyligence之前曾就职于eBay、微软。 今天分享的主题是：聊聊“神兽”Apache Kylin的最新特性。本次分享将首先对Apache Kylin进行基本介绍；接下来介绍1.5.x最新版本[详细]
-
kylin-BI工具-tableau9
所属栏目：[大数据] 日期：2021-03-07 热度：195
副标题#e# Tableau 9 Tableau 9.x has been released a while,there are many users are asking about support this version with Apache Kylin. With updated Kylin ODBC Driver,now user could interactive with Kylin service through Tableau 9.x. Apac[详细]
-
数据处理的 9 大编程语言
所属栏目：[大数据] 日期：2021-03-07 热度：82
副标题#e# （点击上方公众号，可快速关注） 英文：Anna Nicolauo 译者：伯乐在线 - 胡波 链接：http://blog.jobbole.com/100732/ 有关大数据的话题一直很火热。伴随着信息的爆炸式增长，大数据渗透到了各行各业，广泛应用于公司中，同时也使得传统的软件比[详细]
-
基因数据处理28之avocado运行
所属栏目：[大数据] 日期：2021-03-07 热度：194
需要注意的是如果使用avocado的命令行，fs和fq为hdfs路径，properties为本地路径： hadoop@Master:~/xubo/data/testTools/se$ avocado-submit /xubo/avocado/hs1.fq /xubo/avocado/hs38DH.fa /xubo/avocado/test20160527 /home/hadoop/cloud/avocado/basic[详细]
-
LightOJ 1370 Bi-shoe and Phi-shoe（欧拉函数）
所属栏目：[大数据] 日期：2021-03-07 热度：67
题目链接： LightOJ 1370 Bi-shoe and Phi-shoe 题意： 给出n个数，要求对每个数a[i]找一个数x[i]使得小于x[i]且与x[i]互素的数的个数不小于a[i],求出所有x[i]的最小和。 分析： 和最小则每个数对应的x[i]应最[详细]
-
基因数据处理26之bcftools安装和使用
所属栏目：[大数据] 日期：2021-03-07 热度：108
1.下载： https://github.com/samtools/bcftools 2.安装 make make install 3.结合samtools使用 对排序好的bam数据用samtools生成bcf文件： xubo@xubo:~/xubo/data/testTools/se$ samtools mpileup -ugf ../hs38DH.fa hs2.sort.bam hs2.bcf 由于生成的是二[详细]
-
WindowsXP SP3 AFD.sys 本地拒绝服务漏洞的挖掘过程
所属栏目：[大数据] 日期：2021-03-06 热度：193
标 题: WindowsXP SP3 AFD.sys 本地拒绝服务漏洞的挖掘过程 时 间: 2013-03-17,15:22:33 这是本人第一次做漏洞挖掘，2月的时候开始研究漏洞挖掘技术，2月24号那天在进行Fuzz测试的时候偶然的发现了一个afd.sys未处理的异常，然后就对这个异常如获至宝的分[详细]
-
520我与大数据有个约会——上海大数据创新应用论坛完美落幕
所属栏目：[大数据] 日期：2021-03-06 热度：142
副标题#e# 2016年5月20日周五下午，由上海市大数据联盟牵头，慧与(中国)有限公司、联通小沃科技与华院数据共同承办，来自金融服务业、运营商、零售及电商、制造等行业的大数据应用先行者们为各行各业170余位来宾们打开了一扇通向大数据应用落地彼岸的智慧之[详细]
-
基因数据处理31之avocado运行avocado-cli中的avocado问题3-变异
所属栏目：[大数据] 日期：2021-03-06 热度：140
读入的read为： val fqFile = "hs38DHSE1L100F1.sam" 读取结果： cleanedReads.count:1{"readNum": 0,"contig": {"contigName": "chrUn_KN707963v1_decoy","contigLength": 62955,"contigMD5": null,"referenceURL": null,"assembly": null,"species": nul[详细]
-
基因数据处理32之Avocado运行记录(人造数据集)
所属栏目：[大数据] 日期：2021-03-06 热度：70
副标题#e# 主要是需要数据正确，如果中间缺少记录，avocado一般不会成功 1.代码： Avocado修改： /** * Licensed to Big Data Genomics (BDG) under one * or more contributor license agreements. See the NOTICE file * distributed with this work for[详细]
-
基因数据处理30之avocado运行avocado-cli中的avocado问题1和2
所属栏目：[大数据] 日期：2021-03-06 热度：195
问题1： avocado中的run方法中： println("stats.coverage:" + stats.coverage) 调用的是： lazy val coverage = ComputingCoverage.time { ScoreCoverage(inputDataset) } 然后报错： Exception in thread "main" java.lang.UnsupportedOperationExceptio[详细]
-
基因数据处理33之Avocado运行记录(参考基因组)
所属栏目：[大数据] 日期：2021-03-06 热度：59
1.数据下载： avocaodo的test resource中 2.预处理： cat Homo_sapiens_assembly19.fasta | grep -i -n '' Homo_sapiens_assembly19Head.txt cat Homo_sapiens_assembly19Head.txt cat Homo_sapiens_assembly19.fasta | head -34770016 |tail -787820 Homo[详细]
-
nyoj 28 大数阶乘
所属栏目：[大数据] 日期：2021-03-06 热度：106
大数阶乘 时间限制： 3000?ms ?|? 内存限制： 65535?KB 难度： 3 描述 我们都知道如何计算一个数的阶乘，可是，如果这个数很大呢，我们该如何去计算它并输出它？ 输入 输入一个整数m(0m=5000) 输出 输出m的阶乘，并在输出结束之后输入一个换行符 样例输入[详细]
-
如何挖掘大数据“钻石矿”? 李克强绘四大路径
所属栏目：[大数据] 日期：2021-03-06 热度：112
副标题#e# 中新社 刘震 摄 有人将大数据比喻为“21世纪的钻石矿”。如何在新一轮信息化潮流中抢得先机，掘得富矿？中国国务院总理李克强25日在中国大数据产业峰会暨中国电子商务创新发展峰会(以下简称：数博会)上发表致辞时，为此描绘出四大清晰路径。 路径[详细]
-
工具 | R高效数据处理包dplyr和data.table，你选哪个？
所属栏目：[大数据] 日期：2021-03-06 热度：141
副标题#e# dplyr和data.table是R的两个高效数据处理包，这两个包有它们各自的优点。dplyr包的语法更加优雅，提供了更易于人类所能理解的自然语言。data.table包的语法简洁，并且只需一行代码就可以完成很多事情。进一步地，data.table在某些情况下执行效率[详细]
-
基因数据处理26之avocado运行snap-basic有问题
所属栏目：[大数据] 日期：2021-03-06 热度：58
hadoop@Master:~/xubo/data/testTools/se$ avocado-submit /xubo/avocado/hs2.fq /xubo/avocado/hs38DH.fa /xubo/avocado/test20160527NUMhs2snap /home/hadoop/xubo/data/testTools/se/snap-basic.propertiesUsing SPARK_SUBMIT=/home/hadoop/cloud/spark[详细]
-
基因数据处理35之使用samtools和bcftools进行变异分析2--连续处
所属栏目：[大数据] 日期：2021-03-06 热度：199
指令： samtools mpileup -uf Homo_sapiens_assembly19chr20.fasta NA12878_snp_A2G_chr20_225058_longer.sorted.bam | bcftools call -mv NA12878_snp_A2G_chr20_225058_longer.raw.vcf bcftools filter -s LowQual -e '%QUAL20 || DP100' NA12878_snp_A2[详细]
-
XTU 1247 Robb#39;s Problem
所属栏目：[大数据] 日期：2021-03-06 热度：57
思路：大数处理，可以用二维数组，也可以用Java的BigInteger来处理。我用的是Java，因为方便、快捷。 AC代码如下： import java.util.*;import java.math.*;public class Main{ final static int MAXN = 1005; public static void main(String args[]){ Sc[详细]
-
基因数据处理38之dbSnpId到omimId的映射表
所属栏目：[大数据] 日期：2021-03-06 热度：54
1.下载： 首先收到【2】，来源是【2】 【1】中有描述： You can also get those SNPs with an OMIM ID number by downloading from the dbSNP FTP site: the OmimVarLocusIdSNP table contains the information you need for your organisim of interest ([详细]
-
基因数据处理39之mango安装记录
所属栏目：[大数据] 日期：2021-03-06 热度：92
更多代码请见：https://github.com/xubo245/AdamLearning 1解释 mango安装记录 mango主要是在adam上实现 可视化平台 A scalable genome browser 2.代码： git clone https://github.com/bigdatagenomics/mango.gitcd mangomvn clean package -DskipTests[详细]
-
基因数据处理37之bdg-formats编译成功
所属栏目：[大数据] 日期：2021-03-06 热度：101
更多代码请见：https://github.com/xubo245/AdamLearning 1解释 bdg-formats是在spark平台上用avro定义的基因处理的数据格式，包括read、sam、vcf、databaseannotion在云平台上的格式，主要用于Adam系统中 2.代码： 【2】下载 编译： mvn clean package -D[详细]
-
《hadoop进阶》PeopleRank从社交关系中挖掘价值用户
所属栏目：[大数据] 日期：2021-03-06 热度：183
副标题#e# 转载请注明出处： 转载自? Thinkgamer的CSDN博客： blog.csdn.net/gamer_gyt 代码下载地址：点击查看 1：PageRank 与 PeopleRank 2：需求分析：挖掘CSDN博客的价值用户 3：算法模型：PeopleRank算法 4：架构设计：从数据准备到PR算法的MR化 5：程[详细]
-
推荐系统技术 --- 文本相似性计算（二）
所属栏目：[大数据] 日期：2021-03-06 热度：83
副标题#e# 第一篇地址：http://www.voidcn.com/article/p-vwrvnxub-c.html 上一篇中我们的小明已经中学毕业了，今天这一篇继续文本相似性的计算。 首先前一篇不能解决的问题是因为我们只是机械的计算了词的向量，并没有任何上下文的关系，所以思想还停留在[详细]
-
基因数据处理34之使用samtools和bcftools进行变异分析
所属栏目：[大数据] 日期：2021-03-06 热度：99
1.指令： （1） samtools mpileup -vf Homo_sapiens_assembly19chr20.fasta NA12878_snp_A2G_chr20_225058.sorted.bam NA12878_snp_A2G_chr20_225058.variants 或者： samtools mpileup -vf Homo_sapiens_assembly19chr20.fasta NA12878_snp_A2G_chr20_225[详细]
浙公网安备 33038102331048号