批量合并xml文件

/// <summary>
/// 对由爬虫爬取的职位类xml文件进行批量格式化(去除非打印字符,提取有用节点)并拼接成一个xml文件,方便数据库或Excel导入。
/// </summary>
class XMLCombine
{
    private string SavePath { get; set; }//拼接后的xml文件保存或加载路径(包括文件名)
    private XDocument XML { get; set; }//将指定路径的xml加载进XDocument类。
    public XMLCombine(string savePath)
    {
        this.SavePath = savePath;
        if (!File.Exists(savePath))
        {
            XDocument xWrite = new XDocument();
            XElement xJobs = new XElement("Jobs");
            xWrite.Add(xJobs);
            xWrite.Save(savePath);//创建xml文件
        }
        this.XML = XDocument.Load(savePath);
    }
    /// <summary>
    /// 对由招聘网站爬取的分页的职位列表-xml文件进行字段提取,合并。
    /// </summary>
    /// <param name="path">批量导入的xml文件所在的目录</param>
    /// <param name="posts">需要从xml文件中提取的字段(节点)</param>
    /// <param name="rTF">准备导入的xml文件的编码格式</param>
    /// <returns>文本形式保存的新增/修改的职位数和对新xml文件导入时的查重</returns>
    public string AddNewPost(string path, string posts, Encoding rTF)
    {
        int countAdd = 0;//新增/更新的职位数
        int countRepeat1 = 0;//新导入的xml文件中的职位重复数。
        int countRepeat2 = 0;//新导入的职位信息与原已拼接的xml文件的职位重复数
        Dictionary<string, XElement> selectInfo = new Dictionary<string, XElement>();//key为职位主页的网址(作为查重依据),value为以单个职位信息作为的节点
        string[] thisPosts = posts.Split(new char[] { ',' }, StringSplitOptions.RemoveEmptyEntries);
        IEnumerable<string> filesEnum = Directory.EnumerateFiles(path, "*.xml");//遍历指定文件夹下的xml文件
        IEnumerator<string> paths = filesEnum.GetEnumerator();
        while (paths.MoveNext())
        {
            string str = File.ReadAllText(paths.Current, rTF);
            StringBuilder sb = new StringBuilder();
            foreach (char cc in str)//将xml对象中包含的低序位非打印 ASCII 字符去除,以免XDocment读取异常
            {
                int ss = (int)cc;
                if (((ss >= 0) && (ss <= 8)) || ((ss >= 11) && (ss <= 12)) || ((ss >= 14) && (ss <= 32)))
                { sb.AppendFormat(" ", ss); }
                else { sb.Append(cc); }
            }
            str = sb.ToString();
            XDocument readXdoc = XDocument.Parse(str);//将格式化后的字符串创建为XDocment对象
            //DescendantsAndSelf(XName):从XElements集合的的所有元素及其子代元素中查找指定XName的元素,返回第一个。
            XElement jobInfos = readXdoc.Elements().DescendantsAndSelf("职位信息").First();
            foreach (XElement jobInfo in jobInfos.Elements())
            {
                XElement newJob = new XElement("Person");
                for (int i = 0; i < thisPosts.Length; i++)
                {
                    string name = thisPosts[i];
                    XElement xel = jobInfo.Element(name);//检索子元素下指定名称的第一个元素(节点)
                    //去除多余的空字符和换行符
                    string temp = string.Join(" ", xel.Value.Trim().Split(new char[] { ' ' }, StringSplitOptions.RemoveEmptyEntries));
                    string value = string.Join("\n", temp.Split(new string[] { "\n ", " \n", "\n" }, StringSplitOptions.RemoveEmptyEntries));
                    newJob.SetElementValue(name, value);
                }
                string webSite = newJob.Element("网址").Value;
                if (!selectInfo.ContainsKey(webSite))
                {
                    selectInfo.Add(webSite, newJob);//将格式化并查重后的每个职位信息存入字典,以职位主页网址为索引
                    countAdd++;
                }
                else countRepeat1++;
            }
        }
        XElement oldRoot = this.XML.Root;
        foreach (XElement item in oldRoot.Elements())
        {
            string selectWebSite = item.Element("网址").Value;
            //变量原已拼接的xml文件中的职位,判断每个职位的网址是否与字典中职位的网站相同,如果是,则去除字典中的重复职位,将剩余不重复的加入xml文件中
            if (selectWebSite!=null&&selectInfo.ContainsKey(selectWebSite))
            {
                selectInfo.Remove(selectWebSite);//从字典中移除指定Key的元素
                countRepeat2++;
            }
        }
        oldRoot.Add(selectInfo.Values);
        this.XML.Save(this.SavePath);
        countAdd = countAdd - countRepeat2;
        return "新增职位数:" + countAdd + ",准备导入的批量xml之中的职位重复数:" + countRepeat1 + ",准备导入的批量xml与原保存的xml数据中的重复职位数:" + countRepeat2;
    }
    /// <summary>
    /// 对由爬虫从招聘网站爬取的每个职位主页信息进行格式化(去除非打印字符,提取有用节点),拼接进包含职位列表的xml文件,方便数据库或Excel导入。
    /// </summary>
    /// <param name="path">批量导入的xml文件所在的目录</param>
    /// <param name="represents">需要从xml文件中提取的字段(节点:职位信息)</param>
    /// <param name="rTF">准备导入的xml文件的编码格式</param>
    /// <returns>文本形式保存的新增/修改的职位数和对新xml文件导入时的查重</returns>
    public string AddNewRepresent(string path, string represents, Encoding rTF)
    {
        int countAdd = 0;
        int countRepeat1 = 0;
        int countRepeat2 = 0;
        Dictionary<string, XElement> selectInfo = new Dictionary<string, XElement>();
        string[] thisRepresents = represents.Split(new char[] { ',' }, StringSplitOptions.RemoveEmptyEntries); ;
        IEnumerable<string> filesEnum = Directory.EnumerateFiles(path, "*.xml");
        IEnumerator<string> paths = filesEnum.GetEnumerator();
        while (paths.MoveNext())
        {
            string str = File.ReadAllText(paths.Current, rTF);
            StringBuilder info = new StringBuilder();
            foreach (char cc in str)
            {
                int ss = (int)cc;
                if (((ss >= 0) && (ss <= 8)) || ((ss >= 11) && (ss <= 12)) || ((ss >= 14) && (ss <= 32)))
                    info.AppendFormat(" ", ss);
                else info.Append(cc);
            }
            str = info.ToString();
            XDocument xml = XDocument.Parse(str);
            XElement xPerson = new XElement("Person");
            for (int i = 0; i < thisRepresents.Length; i++)
            {
                string name = thisRepresents[i];
                XElement xel = xml.Root.DescendantsAndSelf(name).First();
                string temp = string.Join(" ", xel.Value.Trim().Split(new char[] { ' ' }, StringSplitOptions.RemoveEmptyEntries));
                string value = string.Join("\n", temp.Split(new string[] { "\n ", " \n", "\n" }, StringSplitOptions.RemoveEmptyEntries));
                //招聘部门这个字段中,默认包含了“企业名+部门”,将企业名去除。
                if (name == "招聘部门")
                {
                    value = value.Replace(xml.Root.DescendantsAndSelf("企业名").First().Value.Trim(), "");
                }
                xPerson.SetElementValue(name, value);//将获取的节点格式化后(去除空字符)写入新的XDocment对象下
            }
            //职位主页的网址在fullpath这个字段中。
            string webSite = xml.Root.DescendantsAndSelf("fullpath").First().Value.Trim();
            if (!selectInfo.ContainsKey(webSite))
            {
                selectInfo.Add(webSite, xPerson);
            }
            else countRepeat1++;
        }
        XElement oldRoot = this.XML.Root;
        foreach (XElement item in oldRoot.Elements())
        {
            string selectWebSite = item.Element("网址").Value;
            XElement addInfo = selectInfo[selectWebSite];
            //遍历已拼接的xml文件中的职位,如果职位的网址与字典中的职位主页的网址相同,并且判断字典中该职位信息未加入到该xml文件中,则向xml文件添加进字典中该职位的信息
            if (selectWebSite!=null&&
                item.LastNode.ToString() !=addInfo.LastNode.ToString()&&
                selectInfo.ContainsKey(selectWebSite))
            {
                item.Add(addInfo.Elements());
                ++countAdd;
            }
            else countRepeat2++;
        }
        this.XML.Save(this.SavePath);
        return  "补全职位数:" + countAdd + ",准备导入的批量xml之中的职位重复数:" + countRepeat1 + ",准备导入的批量xml与原保存的xml数据中的重复职位数:" + countRepeat2;
    }
}
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 215,384评论 6 497
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 91,845评论 3 391
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 161,148评论 0 351
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,640评论 1 290
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,731评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,712评论 1 294
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,703评论 3 415
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,473评论 0 270
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,915评论 1 307
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,227评论 2 331
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,384评论 1 345
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,063评论 5 340
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,706评论 3 324
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,302评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,531评论 1 268
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,321评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,248评论 2 352

推荐阅读更多精彩内容