source: MDRepository/trunk/build.xml @ 3525

Last change on this file since 3525 was 3525, checked in by vronk, 11 years ago

minor

File size: 4.8 KB
Line 
1<?xml version="1.0" encoding="UTF-8"?>
2<project name="mdrepo" xmlns:xdb="http://exist-db.org/ant" >
3
4
5<!--
6two flags:
7skip.download
8skip.clean-target
9-->
10  <property file="build.props" />
11       
12  <property name="data.dir" value="data/cmdi-current"/>
13  <property name="dataset" value="olac-and-dc-providers" /> 
14  <property name="target.server" value="localhost:8089/exist9"/>
15        <property name="target.path" value="http://${target.server}/rest/db/mdrepo-data"/>
16        <property name="target-xmldb.path" value="xmldb:exist://${target.server}/xmlrpc/db/mdrepo-data"/>
17       
18       
19        <target name="init">
20                <mkdir dir="${data.dir}" />
21                <mkdir dir="${data.dir}/logs" />               
22                <tstamp>
23            <format property="start.time" pattern="yyyy-MM-dd HH:mm:ss" />
24     </tstamp>     
25        </target>
26       
27        <target name="download" depends="init" unless="skip.download">
28                <!-- <get usetimestamp="true" src="http://catalog.clarin.eu/oai-harvester/resultsets/cmdi-providers.tar.bz2" dest="${data.dir}/cmdi-providers.tar.bz2"/>   
29                                 <get usetimestamp="true" src="http://catalog.clarin.eu/oai-harvester/resultsets/mpi-self-harvest.tar.bz2" dest="${data.dir}/mpi-self-harvest.tar.bz2"/>   
30                -->             
31                <get usetimestamp="true" src="http://catalog.clarin.eu/oai-harvester/resultsets/${dataset}.tar.bz2" dest="${data.dir}/${dataset}.tar.bz2"
32                        />
33               
34        </target>
35
36        <target name="unzip" depends="download" unless="skip.download">
37       
38                <!-- <bunzip2 src="${data.dir}/${dataset}.tar.bz2" dest="${data.dir}" /> -->
39                <untar src="${data.dir}/${dataset}.tar.bz2" dest="${data.dir}/${dataset}" compression="bzip2"/>
40        </target>
41
42         <target name="upload" depends="unzip"> 
43        <!--            <target name="upload" depends="init">    -->
44                <tstamp>
45            <format property="start-upload.time" pattern="yyyy-MM-dd HH:mm:ss" />
46     </tstamp>
47                        <exec executable="./upload.sh">
48                                <!-- <arg value="${data.dir}/${dataset}/results/cmdi/Academia_Sinica_Balanced_Corpus_of_Modern_Chinese/" />                              -->
49                                <arg value="${data.dir}/${dataset}/results/cmdi" />                             
50                                <arg value="${target.path}/${dataset}" />                               
51                                <arg value="${user}" />                         
52                                <arg value="${pwd}" />                         
53                                         <!-- -exec curl -i -H "Accept: application/xml" -u "cr-writer:pwd" -X PUT -T \{} http://localhost/exist9/rest/db/mdrepo-data/${dataset}/\{} \; > upload.log' /> -->
54                        </exec>
55                        <antcall target="log-import" />
56        </target>
57
58
59        <target name="upload-xdb" depends="unzip, clean-target">       
60               
61                <!-- <antcall target="clean-target" /> -->
62               
63                <tstamp>
64            <format property="start-upload.time" pattern="yyyy-MM-dd HH:mm:ss" />
65     </tstamp>     
66                               
67                        <xdb:store xmlns:xdb="http://exist-db.org/ant"
68                            uri="${target-xmldb.path}/${dataset}"
69                                                                        user="${user}" password="${pwd}"
70                                createcollection="true"
71                                createsubcollections="true" >
72                                    <fileset dir="${data.dir}/${dataset}/results/cmdi">         
73                                    </fileset>
74                        </xdb:store>
75                        <antcall target="log-import" />
76       
77        </target>
78
79       
80        <target name="clean-target" unless="skip.clean-target" >               
81                                <xdb:remove xmlns:xdb="http://exist-db.org/ant" user="${user}" password="${pwd}"               
82                            uri="${target-xmldb.path}"  collection="${dataset}" />
83        </target>
84       
85        <target name="clean" >
86                <delete dir="${data.dir}" />
87        </target>
88
89
90<target name="backup-raw"  >
91        <echo>TODO</echo>       
92       
93</target>
94
95<target name="log-import"  >
96                                       
97     <tstamp>
98            <format property="file.time" pattern="yyyyMMdd-HHmmss-S" />
99     </tstamp>
100                 <tstamp>
101            <format property="end.time" pattern="yyyy-MM-dd HH:mm:ss" />
102     </tstamp>
103   
104     <resourcecount property="count.files">
105            <fileset dir="${data.dir}/${dataset}/results/cmdi">         
106                                    </fileset>
107    </resourcecount>
108               
109    <property name="file.name" value="import-log-${dataset}-${file.time}.xml"/>
110                <property name="file.path" value="${data.dir}/logs/${file.name}"/>
111               
112                <echoxml file="${file.path}"><log dataset="${dataset}" start-time="${start.time}" 
113                                                                                                start-upload-time="${start-upload.time}" end-time="${end.time}" 
114                                                                                                count-files="${count.files}" />
115                                                                                               
116                </echoxml> 
117   
118    <echo>uploaded files: ${count.files}</echo>
119    <echo>wrote import-log to ${file.path}</echo>
120    <echo>start-time: ${start.time}</echo>
121    <echo>end-time: ${end.time}</echo>
122   
123        <xdb:store xmlns:xdb="http://exist-db.org/ant"
124                        uri="${target-xmldb.path}/logs"
125                                                user="${user}" password="${pwd}"
126                                createcollection="true" 
127                                srcfile="${file.path}"/>
128                <echo>uploaded import-log to ${target-xmldb.path}/logs/${file.name}</echo>
129               
130        </target>       
131
132
133                <property name="server.dir" value="/opt/exist-code"/>
134
135        <path id="classpath.core">
136                <fileset dir="${server.dir}/lib/core">
137                    <include name="*.jar"/>
138                </fileset>
139                <pathelement path="${server.dir}/exist.jar"/>
140                <pathelement path="${server.dir}/exist-optional.jar"/>
141        </path>
142
143        <typedef resource="org/exist/ant/antlib.xml" uri="http://exist-db.org/ant">
144                <classpath refid="classpath.core"/>
145        </typedef>
146
147</project>
Note: See TracBrowser for help on using the repository browser.