三少个人自留地

hadoop安装后的测试

三少（David.Guo） — Mon, 26 Sep 2011 06:50:59 +0000

hadoop安装完成后，需要对hadoop进行一些安装后的测试，证明hadoop确实安装成功。以下内容记录一些hadoop的安装后的基本测试：

1：format namenode

安装完成后，用如下命令进行namenode的format
[root@master dfs]# hadoop namenode -formatDEPRECATED: Use of this script to execute hdfs command is deprecated. Instead use the hdfs command for it.
/************************************************************
STARTUP_MSG: Starting NameNode
STARTUP_MSG: host = master.localdomain/172.16.3.217
STARTUP_MSG: args = [-format]
STARTUP_MSG: version = 0.21.0
STARTUP_MSG: classpath = /root/jz/hadoop-0.21.0/bin/../conf:/usr/java/jdk1.6.0_27/lib/tools.jar:/root/jz/hadoop-0.21.0/bin/..:/root/jz/hadoop-0.21.0/bin/../hadoop-common-0.21.0.jar:/root/jz/hadoop-0.21.0/bin/../hadoop-common-test-0.21.0.jar:/root/jz/hadoop-0.21.0/bin/../hadoop-hdfs-0.21.0.jar:/root/jz/hadoop-0.21.0/bin/../hadoop-hdfs-0.21.0-sources.jar:/root/jz/hadoop-0.21.0/bin/../hadoop-hdfs-ant-0.21.0.jar:/root/jz/hadoop-0.21.0/bin/../hadoop-hdfs-test-0.21.0.jar:/root/jz/hadoop-0.21.0/bin/../hadoop-hdfs-test-0.21.0-sources.jar:/root/jz/hadoop-0.21.0/bin/../hadoop-mapred-0.21.0.jar:/root/jz/hadoop-0.21.0/bin/../hadoop-mapred-0.21.0-sources.jar:/root/jz/hadoop-0.21.0/bin/../hadoop-mapred-examples-0.21.0.jar:/root/jz/hadoop-0.21.0/bin/../hadoop-mapred-test-0.21.0.jar:/root/jz/hadoop-0.21.0/bin/../hadoop-mapred-tools-0.21.0.jar:/root/jz/hadoop-0.21.0/bin/../lib/ant-1.6.5.jar:/root/jz/hadoop-0.21.0/bin/../lib/asm-3.2.jar:/root/jz/hadoop-0.21.0/bin/../lib/aspectjrt-1.6.5.jar:/root/jz/hadoop-0.21.0/bin/../lib/aspectjtools-1.6.5.jar:/root/jz/hadoop-0.21.0/bin/../lib/avro-1.3.2.jar:/root/jz/hadoop-0.21.0/bin/../lib/commons-cli-1.2.jar:/root/jz/hadoop-0.21.0/bin/../lib/commons-codec-1.4.jar:/root/jz/hadoop-0.21.0/bin/../lib/commons-el-1.0.jar:/root/jz/hadoop-0.21.0/bin/../lib/commons-httpclient-3.1.jar:/root/jz/hadoop-0.21.0/bin/../lib/commons-lang-2.5.jar:/root/jz/hadoop-0.21.0/bin/../lib/commons-logging-1.1.1.jar:/root/jz/hadoop-0.21.0/bin/../lib/commons-logging-api-1.1.jar:/root/jz/hadoop-0.21.0/bin/../lib/commons-net-1.4.1.jar:/root/jz/hadoop-0.21.0/bin/../lib/core-3.1.1.jar:/root/jz/hadoop-0.21.0/bin/../lib/ftplet-api-1.0.0.jar:/root/jz/hadoop-0.21.0/bin/../lib/ftpserver-core-1.0.0.jar:/root/jz/hadoop-0.21.0/bin/../lib/ftpserver-deprecated-1.0.0-M2.jar:/root/jz/hadoop-0.21.0/bin/../lib/hsqldb-1.8.0.10.jar:/root/jz/hadoop-0.21.0/bin/../lib/jackson-core-asl-1.4.2.jar:/root/jz/hadoop-0.21.0/bin/../lib/jackson-mapper-asl-1.4.2.jar:/root/jz/hadoop-0.21.0/bin/../lib/jasper-compiler-5.5.12.jar:/root/jz/hadoop-0.21.0/bin/../lib/jasper-runtime-5.5.12.jar:/root/jz/hadoop-0.21.0/bin/../lib/jdiff-1.0.9.jar:/root/jz/hadoop-0.21.0/bin/../lib/jets3t-0.7.1.jar:/root/jz/hadoop-0.21.0/bin/../lib/jetty-6.1.14.jar:/root/jz/hadoop-0.21.0/bin/../lib/jetty-util-6.1.14.jar:/root/jz/hadoop-0.21.0/bin/../lib/jsp-2.1-6.1.14.jar:/root/jz/hadoop-0.21.0/bin/../lib/jsp-api-2.1-6.1.14.jar:/root/jz/hadoop-0.21.0/bin/../lib/junit-4.8.1.jar:/root/jz/hadoop-0.21.0/bin/../lib/kfs-0.3.jar:/root/jz/hadoop-0.21.0/bin/../lib/log4j-1.2.15.jar:/root/jz/hadoop-0.21.0/bin/../lib/mina-core-2.0.0-M5.jar:/root/jz/hadoop-0.21.0/bin/../lib/mockito-all-1.8.2.jar:/root/jz/hadoop-0.21.0/bin/../lib/oro-2.0.8.jar:/root/jz/hadoop-0.21.0/bin/../lib/paranamer-2.2.jar:/root/jz/hadoop-0.21.0/bin/../lib/paranamer-ant-2.2.jar:/root/jz/hadoop-0.21.0/bin/../lib/paranamer-generator-2.2.jar:/root/jz/hadoop-0.21.0/bin/../lib/qdox-1.10.1.jar:/root/jz/hadoop-0.21.0/bin/../lib/servlet-api-2.5-6.1.14.jar:/root/jz/hadoop-0.21.0/bin/../lib/slf4j-api-1.5.11.jar:/root/jz/hadoop-0.21.0/bin/../lib/slf4j-log4j12-1.5.11.jar:/root/jz/hadoop-0.21.0/bin/../lib/xmlenc-0.52.jar:/root/jz/hadoop-0.21.0/bin/../lib/jsp-2.1/*.jar:/root/jz/hadoop-0.21.0/hdfs/bin/../conf:/root/jz/hadoop-0.21.0/hdfs/bin/../hadoop-hdfs-*.jar:/root/jz/hadoop-0.21.0/hdfs/bin/../lib/*.jar:/root/jz/hadoop-0.21.0/bin/../mapred/conf:/root/jz/hadoop-0.21.0/bin/../mapred/hadoop-mapred-*.jar:/root/jz/hadoop-0.21.0/bin/../mapred/lib/*.jar:/root/jz/hadoop-0.21.0/hdfs/bin/../hadoop-hdfs-*.jar:/root/jz/hadoop-0.21.0/hdfs/bin/../lib/*.jar
STARTUP_MSG: build = https://svn.apache.org/repos/asf/hadoop/common/branches/branch-0.21 -r 985326; compiled by ‘tomwhite’ on Tue Aug 17 01:02:28 EDT 2010
************************************************************/
11/09/26 14:12:29 INFO namenode.FSNamesystem: defaultReplication = 3
11/09/26 14:12:29 INFO namenode.FSNamesystem: maxReplication = 512
11/09/26 14:12:29 INFO namenode.FSNamesystem: minReplication = 1
11/09/26 14:12:29 INFO namenode.FSNamesystem: maxReplicationStreams = 2
11/09/26 14:12:29 INFO namenode.FSNamesystem: shouldCheckForEnoughRacks = false
11/09/26 14:12:29 INFO security.Groups: Group mapping impl=org.apache.hadoop.security.ShellBasedUnixGroupsMapping; cacheTimeout=300000
11/09/26 14:12:29 INFO namenode.FSNamesystem: fsOwner=root
11/09/26 14:12:29 INFO namenode.FSNamesystem: supergroup=supergroup
11/09/26 14:12:29 INFO namenode.FSNamesystem: isPermissionEnabled=true
11/09/26 14:12:29 INFO namenode.FSNamesystem: isAccessTokenEnabled=false accessKeyUpdateInterval=0 min(s), accessTokenLifetime=0 min(s)
11/09/26 14:12:30 INFO common.Storage: Image file of size 110 saved in 0 seconds.
11/09/26 14:12:30 INFO common.Storage: Storage directory /hadoopdata/dfs/name has been successfully formatted.
11/09/26 14:12:30 INFO namenode.NameNode: SHUTDOWN_MSG:
/************************************************************
SHUTDOWN_MSG: Shutting down NameNode at master.localdomain/172.16.3.217
************************************************************/
2:检查格式化好后的文件系统的状态：

[root@master dfs]# hadoop fsck /
DEPRECATED: Use of this script to execute hdfs command is deprecated.
Instead use the hdfs command for it.
11/09/26 14:37:32 INFO security.Groups: Group mapping impl=org.apache.hadoop.security.ShellBasedUnixGroupsMapping; cacheTimeout=300000
11/09/26 14:37:32 WARN conf.Configuration: mapred.used.genericoptionsparser is deprecated. Instead, use mapreduce.client.genericoptionsparser.used
.
/hadoopdata/mapred/system/jobtracker.info: Under replicated blk_8640060193282159580_1001. Target Replicas is 3 but found 2 replica(s).
Status: HEALTHY
Total size: 4 B
Total dirs: 13
Total files: 1
Total blocks (validated): 1 (avg. block size 4 B)
Minimally replicated blocks: 1 (100.0 %)
Over-replicated blocks: 0 (0.0 %)
Under-replicated blocks: 1 (100.0 %)
Mis-replicated blocks: 0 (0.0 %)
Default replication factor: 3
Average block replication: 2.0
Corrupt blocks: 0
Missing replicas: 1 (50.0 %)
Number of data-nodes: 2
Number of racks: 1
The filesystem under path ‘/’ is HEALTHY
3：对hadoop提供的test包进行基准测试
hadoop 0.21.0中提供了三个基准的测试包。在安装目录下面。名字分别是
hadoop-common-test-0.21.0.jar 以及hadoop-mapred-test-0.21.0.jar 以及hadoop-mapred-examples-0.21.0.jar
我们可以通过使用hadoop jar 包的名字来看这些包都提供何种接口；
[root@master hadoop-0.21.0]# hadoop jar hadoop-common-test-0.21.0.jar
An example program must be given as the first argument.
Valid program names are:
testarrayfile: A test for flat files of binary key/value pairs.
testipc: A test for ipc.
testrpc: A test for rpc.
testsetfile: A test for flat files of binary key/value pairs.
[root@master hadoop-0.21.0]# hadoop jar hadoop-mapred-test-0.21.0.jar
An example program must be given as the first argument.
Valid program names are:
DFSCIOTest: Distributed i/o benchmark of libhdfs.
DistributedFSCheck: Distributed checkup of the file system consistency.
JHLogAnalyzer: Job History Log analyzer.
MRReliabilityTest: A program that tests the reliability of the MR framework by injecting faults/failures
TestDFSIO: Distributed i/o benchmark.
fail: a job that always fails
filebench: Benchmark SequenceFile(Input|Output)Format (block,record compressed and uncompressed), Text(Input|Output)Format (compressed and uncompressed)
loadgen: Generic map/reduce load generator
mapredtest: A map/reduce test check.
mrbench: A map/reduce benchmark that can create many small jobs
nnbench: A benchmark that stresses the namenode.
sleep: A job that sleeps at each map and reduce task.
testbigmapoutput: A map/reduce program that works on a very big non-splittable file and does identity map/reduce
testfilesystem: A test for FileSystem read/write.
testmapredsort: A map/reduce program that validates the map-reduce framework’s sort.
testsequencefile: A test for flat files of binary key value pairs.
testsequencefileinputformat: A test for sequence file input format.
testtextinputformat: A test for text input format.
threadedmapbench: A map/reduce benchmark that compares the performance of maps with multiple spills over maps with 1 spill
[root@master hadoop-0.21.0]# hadoop jar hadoop-mapred-examples-0.21.0.jar
An example program must be given as the first argument.
Valid program names are:
aggregatewordcount: An Aggregate based map/reduce program that counts the words in the input files.
aggregatewordhist: An Aggregate based map/reduce program that computes the histogram of the words in the input files.
bbp: A map/reduce program that uses Bailey-Borwein-Plouffe to compute exact digits of Pi.
dbcount: An example job that count the pageview counts from a database.
distbbp: A map/reduce program that uses a BBP-type formula to compute exact bits of Pi.
grep: A map/reduce program that counts the matches of a regex in the input.
join: A job that effects a join over sorted, equally partitioned datasets
multifilewc: A job that counts words from several files.
pentomino: A map/reduce tile laying program to find solutions to pentomino problems.
pi: A map/reduce program that estimates Pi using a quasi-Monte Carlo method.
randomtextwriter: A map/reduce program that writes 10GB of random textual data per node.
randomwriter: A map/reduce program that writes 10GB of random data per node.
secondarysort: An example defining a secondary sort to the reduce.
sort: A map/reduce program that sorts the data written by the random writer.
sudoku: A sudoku solver.
teragen: Generate data for the terasort
terasort: Run the terasort
teravalidate: Checking results of terasort
wordcount: A map/reduce program that counts the words in the input files.
例如，现在，我们用提供的基准测试做以下io读写的测试：
[root@master hadoop-0.21.0]# hadoop jar hadoop-mapred-test-0.21.0.jar TestDFSIO -write -nrFiles 10 -fileSize 10
11/09/26 14:47:17 INFO fs.TestDFSIO: TestDFSIO.0.0.6
11/09/26 14:47:17 INFO fs.TestDFSIO: nrFiles = 10
11/09/26 14:47:17 INFO fs.TestDFSIO: fileSize (MB) = 10.0
11/09/26 14:47:17 INFO fs.TestDFSIO: bufferSize = 1000000
11/09/26 14:47:17 INFO fs.TestDFSIO: baseDir = /benchmarks/TestDFSIO
11/09/26 14:47:17 INFO security.Groups: Group mapping impl=org.apache.hadoop.security.ShellBasedUnixGroupsMapping; cacheTimeout=300000
11/09/26 14:47:17 WARN conf.Configuration: mapred.task.id is deprecated. Instead, use mapreduce.task.attempt.id
11/09/26 14:47:18 INFO fs.TestDFSIO: creating control file: 10485760 bytes, 10 files
11/09/26 14:47:18 INFO fs.TestDFSIO: created control files for: 10 files
11/09/26 14:47:18 WARN conf.Configuration: session.id is deprecated. Instead, use dfs.metrics.session-id
11/09/26 14:47:18 INFO jvm.JvmMetrics: Initializing JVM Metrics with processName=JobTracker, sessionId=
11/09/26 14:47:18 WARN mapreduce.JobSubmitter: Use GenericOptionsParser for parsing the arguments. Applications should implement Tool for the same.
11/09/26 14:47:19 INFO mapred.FileInputFormat: Total input paths to process : 10
11/09/26 14:47:19 WARN conf.Configuration: mapred.map.tasks is deprecated. Instead, use mapreduce.job.maps
11/09/26 14:47:19 INFO mapreduce.JobSubmitter: number of splits:10
11/09/26 14:47:19 INFO mapreduce.JobSubmitter: adding the following namenodes’ delegation tokens:null
11/09/26 14:47:19 WARN security.TokenCache: Overwriting existing token storage with # keys=0
11/09/26 14:47:19 INFO mapreduce.Job: Running job: job_local_0001
11/09/26 14:47:19 INFO mapred.LocalJobRunner: Waiting for map tasks
11/09/26 14:47:20 INFO mapred.LocalJobRunner: Starting task: attempt_local_0001_m_000000_0
11/09/26 14:47:20 INFO mapred.MapTask: numReduceTasks: 1
11/09/26 14:47:20 INFO mapred.MapTask: (EQUATOR) 0 kvi 26214396(104857584)
11/09/26 14:47:20 INFO mapred.MapTask: mapreduce.task.io.sort.mb: 100
11/09/26 14:47:20 INFO mapred.MapTask: soft limit at 83886080
11/09/26 14:47:20 INFO mapred.MapTask: bufstart = 0; bufvoid = 104857600
11/09/26 14:47:20 INFO mapred.MapTask: kvstart = 26214396; length = 6553600
11/09/26 14:47:20 INFO mapreduce.Job: map 0% reduce 0%
11/09/26 14:47:21 INFO fs.TestDFSIO: Number of bytes processed = 10485760
11/09/26 14:47:21 INFO fs.TestDFSIO: Exec time = 415
11/09/26 14:47:21 INFO fs.TestDFSIO: IO rate = 24.096386
11/09/26 14:47:21 INFO mapred.LocalJobRunner:
11/09/26 14:47:21 INFO mapred.MapTask: Starting flush of map output
11/09/26 14:47:21 INFO mapred.MapTask: Spilling map output
11/09/26 14:47:21 INFO mapred.MapTask: bufstart = 0; bufend = 72; bufvoid = 104857600
11/09/26 14:47:21 INFO mapred.MapTask: kvstart = 26214396(104857584); kvend = 26214380(104857520); length = 17/6553600
11/09/26 14:47:21 INFO mapred.MapTask: Finished spill 0
11/09/26 14:47:21 INFO mapred.Task: Task:attempt_local_0001_m_000000_0 is done. And is in the process of commiting
11/09/26 14:47:21 INFO mapred.LocalJobRunner: finished test_io_0 ::host = master.localdomain > sort
11/09/26 14:47:21 INFO mapred.Task: Task ‘attempt_local_0001_m_000000_0′ done.
11/09/26 14:47:21 INFO mapred.LocalJobRunner: Finishing task: attempt_local_0001_m_000000_0
11/09/26 14:47:21 INFO mapred.LocalJobRunner: Starting task: attempt_local_0001_m_000001_0
11/09/26 14:47:21 INFO mapred.MapTask: numReduceTasks: 1
11/09/26 14:47:21 INFO mapred.MapTask: (EQUATOR) 0 kvi 26214396(104857584)
11/09/26 14:47:21 INFO mapred.MapTask: mapreduce.task.io.sort.mb: 100
11/09/26 14:47:21 INFO mapred.MapTask: soft limit at 83886080
11/09/26 14:47:21 INFO mapred.MapTask: bufstart = 0; bufvoid = 104857600
11/09/26 14:47:21 INFO mapred.MapTask: kvstart = 26214396; length = 6553600
11/09/26 14:47:21 INFO fs.TestDFSIO: Number of bytes processed = 10485760
11/09/26 14:47:21 INFO fs.TestDFSIO: Exec time = 325
11/09/26 14:47:21 INFO fs.TestDFSIO: IO rate = 30.76923
11/09/26 14:47:21 INFO mapred.LocalJobRunner:
11/09/26 14:47:21 INFO mapred.MapTask: Starting flush of map output
11/09/26 14:47:21 INFO mapred.MapTask: Spilling map output
11/09/26 14:47:21 INFO mapred.MapTask: bufstart = 0; bufend = 71; bufvoid = 104857600
11/09/26 14:47:21 INFO mapred.MapTask: kvstart = 26214396(104857584); kvend = 26214380(104857520); length = 17/6553600
11/09/26 14:47:21 INFO mapred.MapTask: Finished spill 0
11/09/26 14:47:21 INFO mapred.Task: Task:attempt_local_0001_m_000001_0 is done. And is in the process of commiting
11/09/26 14:47:21 INFO mapred.LocalJobRunner: finished test_io_1 ::host = master.localdomain > sort
11/09/26 14:47:21 INFO mapred.Task: Task ‘attempt_local_0001_m_000001_0′ done.
11/09/26 14:47:21 INFO mapred.LocalJobRunner: Finishing task: attempt_local_0001_m_000001_0
11/09/26 14:47:21 INFO mapred.LocalJobRunner: Starting task: attempt_local_0001_m_000002_0
11/09/26 14:47:21 INFO mapred.MapTask: numReduceTasks: 1
11/09/26 14:47:21 INFO mapred.MapTask: (EQUATOR) 0 kvi 26214396(104857584)
11/09/26 14:47:21 INFO mapred.MapTask: mapreduce.task.io.sort.mb: 100
11/09/26 14:47:21 INFO mapred.MapTask: soft limit at 83886080
11/09/26 14:47:21 INFO mapred.MapTask: bufstart = 0; bufvoid = 104857600
11/09/26 14:47:21 INFO mapred.MapTask: kvstart = 26214396; length = 6553600
11/09/26 14:47:21 INFO mapreduce.Job: map 100% reduce 0%
11/09/26 14:47:22 INFO fs.TestDFSIO: Number of bytes processed = 10485760
11/09/26 14:47:22 INFO fs.TestDFSIO: Exec time = 332
11/09/26 14:47:22 INFO fs.TestDFSIO: IO rate = 30.120481
11/09/26 14:47:22 INFO mapred.LocalJobRunner:
11/09/26 14:47:22 INFO mapred.MapTask: Starting flush of map output
11/09/26 14:47:22 INFO mapred.MapTask: Spilling map output
11/09/26 14:47:22 INFO mapred.MapTask: bufstart = 0; bufend = 73; bufvoid = 104857600
11/09/26 14:47:22 INFO mapred.MapTask: kvstart = 26214396(104857584); kvend = 26214380(104857520); length = 17/6553600
11/09/26 14:47:22 INFO mapred.MapTask: Finished spill 0
11/09/26 14:47:22 INFO mapred.Task: Task:attempt_local_0001_m_000002_0 is done. And is in the process of commiting
11/09/26 14:47:22 INFO mapred.LocalJobRunner: finished test_io_2 ::host = master.localdomain > sort
11/09/26 14:47:22 INFO mapred.Task: Task ‘attempt_local_0001_m_000002_0′ done.
11/09/26 14:47:22 INFO mapred.LocalJobRunner: Finishing task: attempt_local_0001_m_000002_0
11/09/26 14:47:22 INFO mapred.LocalJobRunner: Starting task: attempt_local_0001_m_000003_0
11/09/26 14:47:22 INFO mapred.MapTask: numReduceTasks: 1
11/09/26 14:47:22 INFO mapred.MapTask: (EQUATOR) 0 kvi 26214396(104857584)
11/09/26 14:47:22 INFO mapred.MapTask: mapreduce.task.io.sort.mb: 100
11/09/26 14:47:22 INFO mapred.MapTask: soft limit at 83886080
11/09/26 14:47:22 INFO mapred.MapTask: bufstart = 0; bufvoid = 104857600
11/09/26 14:47:22 INFO mapred.MapTask: kvstart = 26214396; length = 6553600
11/09/26 14:47:22 INFO fs.TestDFSIO: Number of bytes processed = 10485760
11/09/26 14:47:22 INFO fs.TestDFSIO: Exec time = 294
11/09/26 14:47:22 INFO fs.TestDFSIO: IO rate = 34.013607
11/09/26 14:47:22 INFO mapred.LocalJobRunner:
11/09/26 14:47:22 INFO mapred.MapTask: Starting flush of map output
11/09/26 14:47:22 INFO mapred.MapTask: Spilling map output
11/09/26 14:47:22 INFO mapred.MapTask: bufstart = 0; bufend = 73; bufvoid = 104857600
11/09/26 14:47:22 INFO mapred.MapTask: kvstart = 26214396(104857584); kvend = 26214380(104857520); length = 17/6553600
11/09/26 14:47:22 INFO mapred.MapTask: Finished spill 0
11/09/26 14:47:22 INFO mapred.Task: Task:attempt_local_0001_m_000003_0 is done. And is in the process of commiting
11/09/26 14:47:22 INFO mapred.LocalJobRunner: finished test_io_3 ::host = master.localdomain > sort
11/09/26 14:47:22 INFO mapred.Task: Task ‘attempt_local_0001_m_000003_0′ done.
11/09/26 14:47:22 INFO mapred.LocalJobRunner: Finishing task: attempt_local_0001_m_000003_0
11/09/26 14:47:22 INFO mapred.LocalJobRunner: Starting task: attempt_local_0001_m_000004_0
11/09/26 14:47:22 INFO mapred.MapTask: numReduceTasks: 1
11/09/26 14:47:23 INFO mapred.MapTask: (EQUATOR) 0 kvi 26214396(104857584)
11/09/26 14:47:23 INFO mapred.MapTask: mapreduce.task.io.sort.mb: 100
11/09/26 14:47:23 INFO mapred.MapTask: soft limit at 83886080
11/09/26 14:47:23 INFO mapred.MapTask: bufstart = 0; bufvoid = 104857600
11/09/26 14:47:23 INFO mapred.MapTask: kvstart = 26214396; length = 6553600
11/09/26 14:47:23 INFO fs.TestDFSIO: Number of bytes processed = 10485760
11/09/26 14:47:23 INFO fs.TestDFSIO: Exec time = 573
11/09/26 14:47:23 INFO fs.TestDFSIO: IO rate = 17.452007
11/09/26 14:47:23 INFO mapred.LocalJobRunner:
11/09/26 14:47:23 INFO mapred.MapTask: Starting flush of map output
11/09/26 14:47:23 INFO mapred.MapTask: Spilling map output
11/09/26 14:47:23 INFO mapred.MapTask: bufstart = 0; bufend = 73; bufvoid = 104857600
11/09/26 14:47:23 INFO mapred.MapTask: kvstart = 26214396(104857584); kvend = 26214380(104857520); length = 17/6553600
11/09/26 14:47:23 INFO mapred.MapTask: Finished spill 0
11/09/26 14:47:23 INFO mapred.Task: Task:attempt_local_0001_m_000004_0 is done. And is in the process of commiting
11/09/26 14:47:23 INFO mapred.LocalJobRunner: finished test_io_4 ::host = master.localdomain > sort
11/09/26 14:47:23 INFO mapred.Task: Task ‘attempt_local_0001_m_000004_0′ done.
11/09/26 14:47:23 INFO mapred.LocalJobRunner: Finishing task: attempt_local_0001_m_000004_0
11/09/26 14:47:23 INFO mapred.LocalJobRunner: Starting task: attempt_local_0001_m_000005_0
11/09/26 14:47:23 INFO mapred.MapTask: numReduceTasks: 1
11/09/26 14:47:24 INFO mapred.MapTask: (EQUATOR) 0 kvi 26214396(104857584)
11/09/26 14:47:24 INFO mapred.MapTask: mapreduce.task.io.sort.mb: 100
11/09/26 14:47:24 INFO mapred.MapTask: soft limit at 83886080
11/09/26 14:47:24 INFO mapred.MapTask: bufstart = 0; bufvoid = 104857600
11/09/26 14:47:24 INFO mapred.MapTask: kvstart = 26214396; length = 6553600
11/09/26 14:47:24 INFO fs.TestDFSIO: Number of bytes processed = 10485760
11/09/26 14:47:24 INFO fs.TestDFSIO: Exec time = 364
11/09/26 14:47:24 INFO fs.TestDFSIO: IO rate = 27.472527
11/09/26 14:47:24 INFO mapred.LocalJobRunner:
11/09/26 14:47:24 INFO mapred.MapTask: Starting flush of map output
11/09/26 14:47:24 INFO mapred.MapTask: Spilling map output
11/09/26 14:47:24 INFO mapred.MapTask: bufstart = 0; bufend = 72; bufvoid = 104857600
11/09/26 14:47:24 INFO mapred.MapTask: kvstart = 26214396(104857584); kvend = 26214380(104857520); length = 17/6553600
11/09/26 14:47:24 INFO mapred.MapTask: Finished spill 0
11/09/26 14:47:24 INFO mapred.Task: Task:attempt_local_0001_m_000005_0 is done. And is in the process of commiting
11/09/26 14:47:24 INFO mapred.LocalJobRunner: finished test_io_5 ::host = master.localdomain > sort
11/09/26 14:47:24 INFO mapred.Task: Task ‘attempt_local_0001_m_000005_0′ done.
11/09/26 14:47:24 INFO mapred.LocalJobRunner: Finishing task: attempt_local_0001_m_000005_0
11/09/26 14:47:24 INFO mapred.LocalJobRunner: Starting task: attempt_local_0001_m_000006_0
11/09/26 14:47:24 INFO mapred.MapTask: numReduceTasks: 1
11/09/26 14:47:25 INFO mapred.MapTask: (EQUATOR) 0 kvi 26214396(104857584)
11/09/26 14:47:25 INFO mapred.MapTask: mapreduce.task.io.sort.mb: 100
11/09/26 14:47:25 INFO mapred.MapTask: soft limit at 83886080
11/09/26 14:47:25 INFO mapred.MapTask: bufstart = 0; bufvoid = 104857600
11/09/26 14:47:25 INFO mapred.MapTask: kvstart = 26214396; length = 6553600
11/09/26 14:47:26 INFO fs.TestDFSIO: Number of bytes processed = 10485760
11/09/26 14:47:26 INFO fs.TestDFSIO: Exec time = 666
11/09/26 14:47:26 INFO fs.TestDFSIO: IO rate = 15.015015
11/09/26 14:47:26 INFO mapred.LocalJobRunner:
11/09/26 14:47:26 INFO mapred.MapTask: Starting flush of map output
11/09/26 14:47:26 INFO mapred.MapTask: Spilling map output
11/09/26 14:47:26 INFO mapred.MapTask: bufstart = 0; bufend = 73; bufvoid = 104857600
11/09/26 14:47:26 INFO mapred.MapTask: kvstart = 26214396(104857584); kvend = 26214380(104857520); length = 17/6553600
11/09/26 14:47:26 INFO mapred.MapTask: Finished spill 0
11/09/26 14:47:26 INFO mapred.Task: Task:attempt_local_0001_m_000006_0 is done. And is in the process of commiting
11/09/26 14:47:26 INFO mapred.LocalJobRunner: finished test_io_6 ::host = master.localdomain > sort
11/09/26 14:47:26 INFO mapred.Task: Task ‘attempt_local_0001_m_000006_0′ done.
11/09/26 14:47:26 INFO mapred.LocalJobRunner: Finishing task: attempt_local_0001_m_000006_0
11/09/26 14:47:26 INFO mapred.LocalJobRunner: Starting task: attempt_local_0001_m_000007_0
11/09/26 14:47:26 INFO mapred.MapTask: numReduceTasks: 1
11/09/26 14:47:26 INFO mapred.MapTask: (EQUATOR) 0 kvi 26214396(104857584)
11/09/26 14:47:26 INFO mapred.MapTask: mapreduce.task.io.sort.mb: 100
11/09/26 14:47:26 INFO mapred.MapTask: soft limit at 83886080
11/09/26 14:47:26 INFO mapred.MapTask: bufstart = 0; bufvoid = 104857600
11/09/26 14:47:26 INFO mapred.MapTask: kvstart = 26214396; length = 6553600
11/09/26 14:47:26 INFO fs.TestDFSIO: Number of bytes processed = 10485760
11/09/26 14:47:26 INFO fs.TestDFSIO: Exec time = 309
11/09/26 14:47:26 INFO fs.TestDFSIO: IO rate = 32.36246
11/09/26 14:47:26 INFO mapred.LocalJobRunner:
11/09/26 14:47:26 INFO mapred.MapTask: Starting flush of map output
11/09/26 14:47:26 INFO mapred.MapTask: Spilling map output
11/09/26 14:47:26 INFO mapred.MapTask: bufstart = 0; bufend = 72; bufvoid = 104857600
11/09/26 14:47:26 INFO mapred.MapTask: kvstart = 26214396(104857584); kvend = 26214380(104857520); length = 17/6553600
11/09/26 14:47:26 INFO mapred.MapTask: Finished spill 0
11/09/26 14:47:26 INFO mapred.Task: Task:attempt_local_0001_m_000007_0 is done. And is in the process of commiting
11/09/26 14:47:26 INFO mapred.LocalJobRunner: finished test_io_7 ::host = master.localdomain > sort
11/09/26 14:47:26 INFO mapred.Task: Task ‘attempt_local_0001_m_000007_0′ done.
11/09/26 14:47:26 INFO mapred.LocalJobRunner: Finishing task: attempt_local_0001_m_000007_0
11/09/26 14:47:26 INFO mapred.LocalJobRunner: Starting task: attempt_local_0001_m_000008_0
11/09/26 14:47:26 INFO mapred.MapTask: numReduceTasks: 1
11/09/26 14:47:27 INFO mapred.MapTask: (EQUATOR) 0 kvi 26214396(104857584)
11/09/26 14:47:27 INFO mapred.MapTask: mapreduce.task.io.sort.mb: 100
11/09/26 14:47:27 INFO mapred.MapTask: soft limit at 83886080
11/09/26 14:47:27 INFO mapred.MapTask: bufstart = 0; bufvoid = 104857600
11/09/26 14:47:27 INFO mapred.MapTask: kvstart = 26214396; length = 6553600
11/09/26 14:47:27 INFO fs.TestDFSIO: Number of bytes processed = 10485760
11/09/26 14:47:27 INFO fs.TestDFSIO: Exec time = 306
11/09/26 14:47:27 INFO fs.TestDFSIO: IO rate = 32.679737
11/09/26 14:47:27 INFO mapred.LocalJobRunner:
11/09/26 14:47:27 INFO mapred.MapTask: Starting flush of map output
11/09/26 14:47:27 INFO mapred.MapTask: Spilling map output
11/09/26 14:47:27 INFO mapred.MapTask: bufstart = 0; bufend = 73; bufvoid = 104857600
11/09/26 14:47:27 INFO mapred.MapTask: kvstart = 26214396(104857584); kvend = 26214380(104857520); length = 17/6553600
11/09/26 14:47:27 INFO mapred.MapTask: Finished spill 0
11/09/26 14:47:27 INFO mapred.Task: Task:attempt_local_0001_m_000008_0 is done. And is in the process of commiting
11/09/26 14:47:27 INFO mapred.LocalJobRunner: finished test_io_8 ::host = master.localdomain > sort
11/09/26 14:47:27 INFO mapred.Task: Task ‘attempt_local_0001_m_000008_0′ done.
11/09/26 14:47:27 INFO mapred.LocalJobRunner: Finishing task: attempt_local_0001_m_000008_0
11/09/26 14:47:27 INFO mapred.LocalJobRunner: Starting task: attempt_local_0001_m_000009_0
11/09/26 14:47:27 INFO mapred.MapTask: numReduceTasks: 1
11/09/26 14:47:28 INFO mapred.MapTask: (EQUATOR) 0 kvi 26214396(104857584)
11/09/26 14:47:28 INFO mapred.MapTask: mapreduce.task.io.sort.mb: 100
11/09/26 14:47:28 INFO mapred.MapTask: soft limit at 83886080
11/09/26 14:47:28 INFO mapred.MapTask: bufstart = 0; bufvoid = 104857600
11/09/26 14:47:28 INFO mapred.MapTask: kvstart = 26214396; length = 6553600
11/09/26 14:47:28 INFO fs.TestDFSIO: Number of bytes processed = 10485760
11/09/26 14:47:28 INFO fs.TestDFSIO: Exec time = 569
11/09/26 14:47:28 INFO fs.TestDFSIO: IO rate = 17.574692
11/09/26 14:47:28 INFO mapred.LocalJobRunner:
11/09/26 14:47:28 INFO mapred.MapTask: Starting flush of map output
11/09/26 14:47:28 INFO mapred.MapTask: Spilling map output
11/09/26 14:47:28 INFO mapred.MapTask: bufstart = 0; bufend = 73; bufvoid = 104857600
11/09/26 14:47:28 INFO mapred.MapTask: kvstart = 26214396(104857584); kvend = 26214380(104857520); length = 17/6553600
11/09/26 14:47:28 INFO mapred.MapTask: Finished spill 0
11/09/26 14:47:28 INFO mapred.Task: Task:attempt_local_0001_m_000009_0 is done. And is in the process of commiting
11/09/26 14:47:28 INFO mapred.LocalJobRunner: finished test_io_9 ::host = master.localdomain > sort
11/09/26 14:47:28 INFO mapred.Task: Task ‘attempt_local_0001_m_000009_0′ done.
11/09/26 14:47:28 INFO mapred.LocalJobRunner: Finishing task: attempt_local_0001_m_000009_0
11/09/26 14:47:28 INFO mapred.LocalJobRunner: Map task executor complete.
11/09/26 14:47:29 INFO mapred.Merger: Merging 10 sorted segments
11/09/26 14:47:29 INFO mapred.Merger: Down to the last merge-pass, with 10 segments left of total size: 755 bytes
11/09/26 14:47:29 INFO mapred.LocalJobRunner:
11/09/26 14:47:29 INFO fs.AccumulatingReducer: Starting AccumulatingReducer on master.localdomain
11/09/26 14:47:29 INFO mapred.Task: Task:attempt_local_0001_r_000000_0 is done. And is in the process of commiting
11/09/26 14:47:29 INFO mapred.LocalJobRunner:
11/09/26 14:47:29 INFO mapred.Task: Task attempt_local_0001_r_000000_0 is allowed to commit now
11/09/26 14:47:29 INFO mapred.FileOutputCommitter: Saved output of task ‘attempt_local_0001_r_000000_0′ to hdfs://master:9000/benchmarks/TestDFSIO/io_write
11/09/26 14:47:29 INFO mapred.LocalJobRunner: finished l:time ::host = master.localdomain > sort
11/09/26 14:47:29 INFO mapred.Task: Task ‘attempt_local_0001_r_000000_0′ done.
11/09/26 14:47:29 INFO mapreduce.Job: map 100% reduce 100%
11/09/26 14:47:29 INFO mapreduce.Job: Job complete: job_local_0001
11/09/26 14:47:29 INFO mapreduce.Job: Counters: 20
FileInputFormatCounters
BYTES_READ=260
FileSystemCounters
FILE_BYTES_READ=16484588
FILE_BYTES_WRITTEN=17448654
HDFS_BYTES_READ=7280
HDFS_BYTES_WRITTEN=681586796
Map-Reduce Framework
Combine input records=0
Combine output records=0
Failed Shuffles=0
GC time elapsed (ms)=936
Map input records=10
Map output bytes=725
Map output records=50
Merged Map outputs=0
Reduce input groups=5
Reduce input records=50
Reduce output records=5
Reduce shuffle bytes=0
Shuffled Maps =0
Spilled Records=100
SPLIT_RAW_BYTES=1200
11/09/26 14:47:29 INFO fs.TestDFSIO: —– TestDFSIO —– : write
11/09/26 14:47:29 INFO fs.TestDFSIO: Date & time: Mon Sep 26 14:47:29 CST 2011
11/09/26 14:47:29 INFO fs.TestDFSIO: Number of files: 10
11/09/26 14:47:29 INFO fs.TestDFSIO: Total MBytes processed: 100.0
11/09/26 14:47:29 INFO fs.TestDFSIO: Throughput mb/sec: 24.078979051288226
11/09/26 14:47:29 INFO fs.TestDFSIO: Average IO rate mb/sec: 26.155614852905273
11/09/26 14:47:29 INFO fs.TestDFSIO: IO rate std deviation: 6.777281251259132
11/09/26 14:47:29 INFO fs.TestDFSIO: Test exec time sec: 10.894
11/09/26 14:47:29 INFO fs.TestDFSIO:
同样，做过写入IO的测试以后，我们也会想进行一次读的测试
[root@master hadoop-0.21.0]# hadoop jar hadoop-mapred-test-0.21.0.jar TestDFSIO -read -nrFiles 10 -fileSize 10
11/09/26 14:48:28 INFO fs.TestDFSIO: TestDFSIO.0.0.6
11/09/26 14:48:28 INFO fs.TestDFSIO: nrFiles = 10
11/09/26 14:48:28 INFO fs.TestDFSIO: fileSize (MB) = 10.0
11/09/26 14:48:28 INFO fs.TestDFSIO: bufferSize = 1000000
11/09/26 14:48:28 INFO fs.TestDFSIO: baseDir = /benchmarks/TestDFSIO
11/09/26 14:48:28 INFO security.Groups: Group mapping impl=org.apache.hadoop.security.ShellBasedUnixGroupsMapping; cacheTimeout=300000
11/09/26 14:48:28 WARN conf.Configuration: mapred.task.id is deprecated. Instead, use mapreduce.task.attempt.id
11/09/26 14:48:29 INFO fs.TestDFSIO: creating control file: 10485760 bytes, 10 files
11/09/26 14:48:29 INFO fs.TestDFSIO: created control files for: 10 files
11/09/26 14:48:29 WARN conf.Configuration: session.id is deprecated. Instead, use dfs.metrics.session-id
11/09/26 14:48:29 INFO jvm.JvmMetrics: Initializing JVM Metrics with processName=JobTracker, sessionId=
11/09/26 14:48:29 WARN mapreduce.JobSubmitter: Use GenericOptionsParser for parsing the arguments. Applications should implement Tool for the same.
11/09/26 14:48:30 INFO mapred.FileInputFormat: Total input paths to process : 10
11/09/26 14:48:30 WARN conf.Configuration: mapred.map.tasks is deprecated. Instead, use mapreduce.job.maps
11/09/26 14:48:30 INFO mapreduce.JobSubmitter: number of splits:10
11/09/26 14:48:30 INFO mapreduce.JobSubmitter: adding the following namenodes’ delegation tokens:null
11/09/26 14:48:30 WARN security.TokenCache: Overwriting existing token storage with # keys=0
11/09/26 14:48:31 INFO mapreduce.Job: Running job: job_local_0001
11/09/26 14:48:31 INFO mapred.LocalJobRunner: Waiting for map tasks
11/09/26 14:48:31 INFO mapred.LocalJobRunner: Starting task: attempt_local_0001_m_000000_0
11/09/26 14:48:31 INFO mapred.MapTask: numReduceTasks: 1
11/09/26 14:48:31 INFO mapred.MapTask: (EQUATOR) 0 kvi 26214396(104857584)
11/09/26 14:48:31 INFO mapred.MapTask: mapreduce.task.io.sort.mb: 100
11/09/26 14:48:31 INFO mapred.MapTask: soft limit at 83886080
11/09/26 14:48:31 INFO mapred.MapTask: bufstart = 0; bufvoid = 104857600
11/09/26 14:48:31 INFO mapred.MapTask: kvstart = 26214396; length = 6553600
11/09/26 14:48:32 INFO fs.TestDFSIO: Number of bytes processed = 10485760
11/09/26 14:48:32 INFO fs.TestDFSIO: Exec time = 335
11/09/26 14:48:32 INFO fs.TestDFSIO: IO rate = 29.850746
11/09/26 14:48:32 INFO mapred.LocalJobRunner:
11/09/26 14:48:32 INFO mapred.MapTask: Starting flush of map output
11/09/26 14:48:32 INFO mapred.MapTask: Spilling map output
11/09/26 14:48:32 INFO mapred.MapTask: bufstart = 0; bufend = 72; bufvoid = 104857600
11/09/26 14:48:32 INFO mapred.MapTask: kvstart = 26214396(104857584); kvend = 26214380(104857520); length = 17/6553600
11/09/26 14:48:32 INFO mapreduce.Job: map 0% reduce 0%
11/09/26 14:48:32 INFO mapred.MapTask: Finished spill 0
11/09/26 14:48:32 INFO mapred.Task: Task:attempt_local_0001_m_000000_0 is done. And is in the process of commiting
11/09/26 14:48:32 INFO mapred.LocalJobRunner: finished test_io_0 ::host = master.localdomain > sort
11/09/26 14:48:32 INFO mapred.Task: Task ‘attempt_local_0001_m_000000_0′ done.
11/09/26 14:48:32 INFO mapred.LocalJobRunner: Finishing task: attempt_local_0001_m_000000_0
11/09/26 14:48:32 INFO mapred.LocalJobRunner: Starting task: attempt_local_0001_m_000001_0
11/09/26 14:48:32 INFO mapred.MapTask: numReduceTasks: 1
11/09/26 14:48:32 INFO mapred.MapTask: (EQUATOR) 0 kvi 26214396(104857584)
11/09/26 14:48:32 INFO mapred.MapTask: mapreduce.task.io.sort.mb: 100
11/09/26 14:48:32 INFO mapred.MapTask: soft limit at 83886080
11/09/26 14:48:32 INFO mapred.MapTask: bufstart = 0; bufvoid = 104857600
11/09/26 14:48:32 INFO mapred.MapTask: kvstart = 26214396; length = 6553600
11/09/26 14:48:32 INFO fs.TestDFSIO: Number of bytes processed = 10485760
11/09/26 14:48:32 INFO fs.TestDFSIO: Exec time = 277
11/09/26 14:48:32 INFO fs.TestDFSIO: IO rate = 36.10108
11/09/26 14:48:32 INFO mapred.LocalJobRunner:
11/09/26 14:48:32 INFO mapred.MapTask: Starting flush of map output
11/09/26 14:48:32 INFO mapred.MapTask: Spilling map output
11/09/26 14:48:32 INFO mapred.MapTask: bufstart = 0; bufend = 73; bufvoid = 104857600
11/09/26 14:48:32 INFO mapred.MapTask: kvstart = 26214396(104857584); kvend = 26214380(104857520); length = 17/6553600
11/09/26 14:48:32 INFO mapred.MapTask: Finished spill 0
11/09/26 14:48:32 INFO mapred.Task: Task:attempt_local_0001_m_000001_0 is done. And is in the process of commiting
11/09/26 14:48:32 INFO mapred.LocalJobRunner: finished test_io_1 ::host = master.localdomain > sort
11/09/26 14:48:32 INFO mapred.Task: Task ‘attempt_local_0001_m_000001_0′ done.
11/09/26 14:48:32 INFO mapred.LocalJobRunner: Finishing task: attempt_local_0001_m_000001_0
11/09/26 14:48:32 INFO mapred.LocalJobRunner: Starting task: attempt_local_0001_m_000002_0
11/09/26 14:48:32 INFO mapred.MapTask: numReduceTasks: 1
11/09/26 14:48:32 INFO mapred.MapTask: (EQUATOR) 0 kvi 26214396(104857584)
11/09/26 14:48:32 INFO mapred.MapTask: mapreduce.task.io.sort.mb: 100
11/09/26 14:48:32 INFO mapred.MapTask: soft limit at 83886080
11/09/26 14:48:32 INFO mapred.MapTask: bufstart = 0; bufvoid = 104857600
11/09/26 14:48:32 INFO mapred.MapTask: kvstart = 26214396; length = 6553600
11/09/26 14:48:33 INFO mapreduce.Job: map 100% reduce 0%
11/09/26 14:48:33 INFO fs.TestDFSIO: Number of bytes processed = 10485760
11/09/26 14:48:33 INFO fs.TestDFSIO: Exec time = 263
11/09/26 14:48:33 INFO fs.TestDFSIO: IO rate = 38.02281
11/09/26 14:48:33 INFO mapred.LocalJobRunner:
11/09/26 14:48:33 INFO mapred.MapTask: Starting flush of map output
11/09/26 14:48:33 INFO mapred.MapTask: Spilling map output
11/09/26 14:48:33 INFO mapred.MapTask: bufstart = 0; bufend = 73; bufvoid = 104857600
11/09/26 14:48:33 INFO mapred.MapTask: kvstart = 26214396(104857584); kvend = 26214380(104857520); length = 17/6553600
11/09/26 14:48:33 INFO mapred.MapTask: Finished spill 0
11/09/26 14:48:33 INFO mapred.Task: Task:attempt_local_0001_m_000002_0 is done. And is in the process of commiting
11/09/26 14:48:33 INFO mapred.LocalJobRunner: finished test_io_2 ::host = master.localdomain > sort
11/09/26 14:48:33 INFO mapred.Task: Task ‘attempt_local_0001_m_000002_0′ done.
11/09/26 14:48:33 INFO mapred.LocalJobRunner: Finishing task: attempt_local_0001_m_000002_0
11/09/26 14:48:33 INFO mapred.LocalJobRunner: Starting task: attempt_local_0001_m_000003_0
11/09/26 14:48:33 INFO mapred.MapTask: numReduceTasks: 1
11/09/26 14:48:33 INFO mapred.MapTask: (EQUATOR) 0 kvi 26214396(104857584)
11/09/26 14:48:33 INFO mapred.MapTask: mapreduce.task.io.sort.mb: 100
11/09/26 14:48:33 INFO mapred.MapTask: soft limit at 83886080
11/09/26 14:48:33 INFO mapred.MapTask: bufstart = 0; bufvoid = 104857600
11/09/26 14:48:33 INFO mapred.MapTask: kvstart = 26214396; length = 6553600
11/09/26 14:48:33 INFO fs.TestDFSIO: Number of bytes processed = 10485760
11/09/26 14:48:33 INFO fs.TestDFSIO: Exec time = 250
11/09/26 14:48:33 INFO fs.TestDFSIO: IO rate = 40.0
11/09/26 14:48:33 INFO mapred.LocalJobRunner:
11/09/26 14:48:33 INFO mapred.MapTask: Starting flush of map output
11/09/26 14:48:33 INFO mapred.MapTask: Spilling map output
11/09/26 14:48:33 INFO mapred.MapTask: bufstart = 0; bufend = 71; bufvoid = 104857600
11/09/26 14:48:33 INFO mapred.MapTask: kvstart = 26214396(104857584); kvend = 26214380(104857520); length = 17/6553600
11/09/26 14:48:33 INFO mapred.MapTask: Finished spill 0
11/09/26 14:48:33 INFO mapred.Task: Task:attempt_local_0001_m_000003_0 is done. And is in the process of commiting
11/09/26 14:48:33 INFO mapred.LocalJobRunner: finished test_io_3 ::host = master.localdomain > sort
11/09/26 14:48:33 INFO mapred.Task: Task ‘attempt_local_0001_m_000003_0′ done.
11/09/26 14:48:33 INFO mapred.LocalJobRunner: Finishing task: attempt_local_0001_m_000003_0
11/09/26 14:48:33 INFO mapred.LocalJobRunner: Starting task: attempt_local_0001_m_000004_0
11/09/26 14:48:33 INFO mapred.MapTask: numReduceTasks: 1
11/09/26 14:48:34 INFO mapred.MapTask: (EQUATOR) 0 kvi 26214396(104857584)
11/09/26 14:48:34 INFO mapred.MapTask: mapreduce.task.io.sort.mb: 100
11/09/26 14:48:34 INFO mapred.MapTask: soft limit at 83886080
11/09/26 14:48:34 INFO mapred.MapTask: bufstart = 0; bufvoid = 104857600
11/09/26 14:48:34 INFO mapred.MapTask: kvstart = 26214396; length = 6553600
11/09/26 14:48:34 INFO fs.TestDFSIO: Number of bytes processed = 10485760
11/09/26 14:48:34 INFO fs.TestDFSIO: Exec time = 319
11/09/26 14:48:34 INFO fs.TestDFSIO: IO rate = 31.347963
11/09/26 14:48:34 INFO mapred.LocalJobRunner:
11/09/26 14:48:34 INFO mapred.MapTask: Starting flush of map output
11/09/26 14:48:34 INFO mapred.MapTask: Spilling map output
11/09/26 14:48:34 INFO mapred.MapTask: bufstart = 0; bufend = 72; bufvoid = 104857600
11/09/26 14:48:34 INFO mapred.MapTask: kvstart = 26214396(104857584); kvend = 26214380(104857520); length = 17/6553600
11/09/26 14:48:34 INFO mapred.MapTask: Finished spill 0
11/09/26 14:48:34 INFO mapred.Task: Task:attempt_local_0001_m_000004_0 is done. And is in the process of commiting
11/09/26 14:48:34 INFO mapred.LocalJobRunner: finished test_io_4 ::host = master.localdomain > sort
11/09/26 14:48:34 INFO mapred.Task: Task ‘attempt_local_0001_m_000004_0′ done.
11/09/26 14:48:34 INFO mapred.LocalJobRunner: Finishing task: attempt_local_0001_m_000004_0
11/09/26 14:48:34 INFO mapred.LocalJobRunner: Starting task: attempt_local_0001_m_000005_0
11/09/26 14:48:34 INFO mapred.MapTask: numReduceTasks: 1
11/09/26 14:48:34 INFO mapred.MapTask: (EQUATOR) 0 kvi 26214396(104857584)
11/09/26 14:48:34 INFO mapred.MapTask: mapreduce.task.io.sort.mb: 100
11/09/26 14:48:34 INFO mapred.MapTask: soft limit at 83886080
11/09/26 14:48:34 INFO mapred.MapTask: bufstart = 0; bufvoid = 104857600
11/09/26 14:48:34 INFO mapred.MapTask: kvstart = 26214396; length = 6553600
11/09/26 14:48:35 INFO fs.TestDFSIO: Number of bytes processed = 10485760
11/09/26 14:48:35 INFO fs.TestDFSIO: Exec time = 289
11/09/26 14:48:35 INFO fs.TestDFSIO: IO rate = 34.602077
11/09/26 14:48:35 INFO mapred.LocalJobRunner:
11/09/26 14:48:35 INFO mapred.MapTask: Starting flush of map output
11/09/26 14:48:35 INFO mapred.MapTask: Spilling map output
11/09/26 14:48:35 INFO mapred.MapTask: bufstart = 0; bufend = 72; bufvoid = 104857600
11/09/26 14:48:35 INFO mapred.MapTask: kvstart = 26214396(104857584); kvend = 26214380(104857520); length = 17/6553600
11/09/26 14:48:35 INFO mapred.MapTask: Finished spill 0
11/09/26 14:48:35 INFO mapred.Task: Task:attempt_local_0001_m_000005_0 is done. And is in the process of commiting
11/09/26 14:48:35 INFO mapred.LocalJobRunner: finished test_io_5 ::host = master.localdomain > sort
11/09/26 14:48:35 INFO mapred.Task: Task ‘attempt_local_0001_m_000005_0′ done.
11/09/26 14:48:35 INFO mapred.LocalJobRunner: Finishing task: attempt_local_0001_m_000005_0
11/09/26 14:48:35 INFO mapred.LocalJobRunner: Starting task: attempt_local_0001_m_000006_0
11/09/26 14:48:35 INFO mapred.MapTask: numReduceTasks: 1
11/09/26 14:48:35 INFO mapred.MapTask: (EQUATOR) 0 kvi 26214396(104857584)
11/09/26 14:48:35 INFO mapred.MapTask: mapreduce.task.io.sort.mb: 100
11/09/26 14:48:35 INFO mapred.MapTask: soft limit at 83886080
11/09/26 14:48:35 INFO mapred.MapTask: bufstart = 0; bufvoid = 104857600
11/09/26 14:48:35 INFO mapred.MapTask: kvstart = 26214396; length = 6553600
11/09/26 14:48:36 INFO fs.TestDFSIO: Number of bytes processed = 10485760
11/09/26 14:48:36 INFO fs.TestDFSIO: Exec time = 262
11/09/26 14:48:36 INFO fs.TestDFSIO: IO rate = 38.16794
11/09/26 14:48:36 INFO mapred.LocalJobRunner:
11/09/26 14:48:36 INFO mapred.MapTask: Starting flush of map output
11/09/26 14:48:36 INFO mapred.MapTask: Spilling map output
11/09/26 14:48:36 INFO mapred.MapTask: bufstart = 0; bufend = 73; bufvoid = 104857600
11/09/26 14:48:36 INFO mapred.MapTask: kvstart = 26214396(104857584); kvend = 26214380(104857520); length = 17/6553600
11/09/26 14:48:36 INFO mapred.MapTask: Finished spill 0
11/09/26 14:48:36 INFO mapred.Task: Task:attempt_local_0001_m_000006_0 is done. And is in the process of commiting
11/09/26 14:48:36 INFO mapred.LocalJobRunner: finished test_io_6 ::host = master.localdomain > sort
11/09/26 14:48:36 INFO mapred.Task: Task ‘attempt_local_0001_m_000006_0′ done.
11/09/26 14:48:36 INFO mapred.LocalJobRunner: Finishing task: attempt_local_0001_m_000006_0
11/09/26 14:48:36 INFO mapred.LocalJobRunner: Starting task: attempt_local_0001_m_000007_0
11/09/26 14:48:36 INFO mapred.MapTask: numReduceTasks: 1
11/09/26 14:48:36 INFO mapred.MapTask: (EQUATOR) 0 kvi 26214396(104857584)
11/09/26 14:48:36 INFO mapred.MapTask: mapreduce.task.io.sort.mb: 100
11/09/26 14:48:36 INFO mapred.MapTask: soft limit at 83886080
11/09/26 14:48:36 INFO mapred.MapTask: bufstart = 0; bufvoid = 104857600
11/09/26 14:48:36 INFO mapred.MapTask: kvstart = 26214396; length = 6553600
11/09/26 14:48:36 INFO fs.TestDFSIO: Number of bytes processed = 10485760
11/09/26 14:48:36 INFO fs.TestDFSIO: Exec time = 274
11/09/26 14:48:36 INFO fs.TestDFSIO: IO rate = 36.49635
11/09/26 14:48:36 INFO mapred.LocalJobRunner:
11/09/26 14:48:36 INFO mapred.MapTask: Starting flush of map output
11/09/26 14:48:36 INFO mapred.MapTask: Spilling map output
11/09/26 14:48:36 INFO mapred.MapTask: bufstart = 0; bufend = 73; bufvoid = 104857600
11/09/26 14:48:36 INFO mapred.MapTask: kvstart = 26214396(104857584); kvend = 26214380(104857520); length = 17/6553600
11/09/26 14:48:36 INFO mapred.MapTask: Finished spill 0
11/09/26 14:48:36 INFO mapred.Task: Task:attempt_local_0001_m_000007_0 is done. And is in the process of commiting
11/09/26 14:48:36 INFO mapred.LocalJobRunner: finished test_io_7 ::host = master.localdomain > sort
11/09/26 14:48:36 INFO mapred.Task: Task ‘attempt_local_0001_m_000007_0′ done.
11/09/26 14:48:36 INFO mapred.LocalJobRunner: Finishing task: attempt_local_0001_m_000007_0
11/09/26 14:48:36 INFO mapred.LocalJobRunner: Starting task: attempt_local_0001_m_000008_0
11/09/26 14:48:36 INFO mapred.MapTask: numReduceTasks: 1
11/09/26 14:48:37 INFO mapred.MapTask: (EQUATOR) 0 kvi 26214396(104857584)
11/09/26 14:48:37 INFO mapred.MapTask: mapreduce.task.io.sort.mb: 100
11/09/26 14:48:37 INFO mapred.MapTask: soft limit at 83886080
11/09/26 14:48:37 INFO mapred.MapTask: bufstart = 0; bufvoid = 104857600
11/09/26 14:48:37 INFO mapred.MapTask: kvstart = 26214396; length = 6553600
11/09/26 14:48:38 INFO fs.TestDFSIO: Number of bytes processed = 10485760
11/09/26 14:48:38 INFO fs.TestDFSIO: Exec time = 1039
11/09/26 14:48:38 INFO fs.TestDFSIO: IO rate = 9.6246395
11/09/26 14:48:38 INFO mapred.LocalJobRunner:
11/09/26 14:48:38 INFO mapred.MapTask: Starting flush of map output
11/09/26 14:48:38 INFO mapred.MapTask: Spilling map output
11/09/26 14:48:38 INFO mapred.MapTask: bufstart = 0; bufend = 71; bufvoid = 104857600
11/09/26 14:48:38 INFO mapred.MapTask: kvstart = 26214396(104857584); kvend = 26214380(104857520); length = 17/6553600
11/09/26 14:48:38 INFO mapred.MapTask: Finished spill 0
11/09/26 14:48:38 INFO mapred.Task: Task:attempt_local_0001_m_000008_0 is done. And is in the process of commiting
11/09/26 14:48:38 INFO mapred.LocalJobRunner: finished test_io_8 ::host = master.localdomain > sort
11/09/26 14:48:38 INFO mapred.Task: Task ‘attempt_local_0001_m_000008_0′ done.
11/09/26 14:48:38 INFO mapred.LocalJobRunner: Finishing task: attempt_local_0001_m_000008_0
11/09/26 14:48:38 INFO mapred.LocalJobRunner: Starting task: attempt_local_0001_m_000009_0
11/09/26 14:48:38 INFO mapred.MapTask: numReduceTasks: 1
11/09/26 14:48:38 INFO mapred.MapTask: (EQUATOR) 0 kvi 26214396(104857584)
11/09/26 14:48:38 INFO mapred.MapTask: mapreduce.task.io.sort.mb: 100
11/09/26 14:48:38 INFO mapred.MapTask: soft limit at 83886080
11/09/26 14:48:39 INFO mapred.MapTask: bufstart = 0; bufvoid = 104857600
11/09/26 14:48:39 INFO mapred.MapTask: kvstart = 26214396; length = 6553600
11/09/26 14:48:39 INFO fs.TestDFSIO: Number of bytes processed = 10485760
11/09/26 14:48:39 INFO fs.TestDFSIO: Exec time = 262
11/09/26 14:48:39 INFO fs.TestDFSIO: IO rate = 38.16794
11/09/26 14:48:39 INFO mapred.LocalJobRunner:
11/09/26 14:48:39 INFO mapred.MapTask: Starting flush of map output
11/09/26 14:48:39 INFO mapred.MapTask: Spilling map output
11/09/26 14:48:39 INFO mapred.MapTask: bufstart = 0; bufend = 73; bufvoid = 104857600
11/09/26 14:48:39 INFO mapred.MapTask: kvstart = 26214396(104857584); kvend = 26214380(104857520); length = 17/6553600
11/09/26 14:48:39 INFO mapred.MapTask: Finished spill 0
11/09/26 14:48:39 INFO mapred.Task: Task:attempt_local_0001_m_000009_0 is done. And is in the process of commiting
11/09/26 14:48:39 INFO mapred.LocalJobRunner: finished test_io_9 ::host = master.localdomain > sort
11/09/26 14:48:39 INFO mapred.Task: Task ‘attempt_local_0001_m_000009_0′ done.
11/09/26 14:48:39 INFO mapred.LocalJobRunner: Finishing task: attempt_local_0001_m_000009_0
11/09/26 14:48:39 INFO mapred.LocalJobRunner: Map task executor complete.
11/09/26 14:48:39 INFO mapred.Merger: Merging 10 sorted segments
11/09/26 14:48:39 INFO mapred.Merger: Down to the last merge-pass, with 10 segments left of total size: 753 bytes
11/09/26 14:48:39 INFO mapred.LocalJobRunner:
11/09/26 14:48:39 INFO fs.AccumulatingReducer: Starting AccumulatingReducer on master.localdomain
11/09/26 14:48:39 INFO mapred.Task: Task:attempt_local_0001_r_000000_0 is done. And is in the process of commiting
11/09/26 14:48:39 INFO mapred.LocalJobRunner:
11/09/26 14:48:39 INFO mapred.Task: Task attempt_local_0001_r_000000_0 is allowed to commit now
11/09/26 14:48:39 INFO mapred.FileOutputCommitter: Saved output of task ‘attempt_local_0001_r_000000_0′ to hdfs://master:9000/benchmarks/TestDFSIO/io_read
11/09/26 14:48:39 INFO mapred.LocalJobRunner: finished l:time ::host = master.localdomain > sort
11/09/26 14:48:39 INFO mapred.Task: Task ‘attempt_local_0001_r_000000_0′ done.
11/09/26 14:48:40 INFO mapreduce.Job: map 100% reduce 100%
11/09/26 14:48:40 INFO mapreduce.Job: Job complete: job_local_0001
11/09/26 14:48:40 INFO mapreduce.Job: Counters: 20
FileInputFormatCounters
BYTES_READ=260
FileSystemCounters
FILE_BYTES_READ=16484586
FILE_BYTES_WRITTEN=17448605
HDFS_BYTES_READ=681581680
HDFS_BYTES_WRITTEN=12398
Map-Reduce Framework
Combine input records=0
Combine output records=0
Failed Shuffles=0
GC time elapsed (ms)=659
Map input records=10
Map output bytes=723
Map output records=50
Merged Map outputs=0
Reduce input groups=5
Reduce input records=50
Reduce output records=5
Reduce shuffle bytes=0
Shuffled Maps =0
Spilled Records=100
SPLIT_RAW_BYTES=1200
11/09/26 14:48:40 INFO fs.TestDFSIO: —– TestDFSIO —– : read
11/09/26 14:48:40 INFO fs.TestDFSIO: Date & time: Mon Sep 26 14:48:40 CST 2011
11/09/26 14:48:40 INFO fs.TestDFSIO: Number of files: 10
11/09/26 14:48:40 INFO fs.TestDFSIO: Total MBytes processed: 100.0
11/09/26 14:48:40 INFO fs.TestDFSIO: Throughput mb/sec: 28.011204481792717
11/09/26 14:48:40 INFO fs.TestDFSIO: Average IO rate mb/sec: 33.238155364990234
11/09/26 14:48:40 INFO fs.TestDFSIO: IO rate std deviation: 8.429346674247412
11/09/26 14:48:40 INFO fs.TestDFSIO: Test exec time sec: 10.681
11/09/26 14:48:40 INFO fs.TestDFSIO:
这个写的测试和读的测试都是基于100M数据的。如果需要更多数据，则修改命令中的参数即可；
做完写的测试以后，别忘记删除写入的数据：
[root@master hadoop-0.21.0]# hadoop jar hadoop-mapred-test-0.21.0.jar TestDFSIO -clean
11/09/26 14:50:10 INFO fs.TestDFSIO: TestDFSIO.0.0.6
11/09/26 14:50:10 INFO fs.TestDFSIO: nrFiles = 1
11/09/26 14:50:10 INFO fs.TestDFSIO: fileSize (MB) = 1.0
11/09/26 14:50:10 INFO fs.TestDFSIO: bufferSize = 1000000
11/09/26 14:50:10 INFO fs.TestDFSIO: baseDir = /benchmarks/TestDFSIO
11/09/26 14:50:10 INFO security.Groups: Group mapping impl=org.apache.hadoop.security.ShellBasedUnixGroupsMapping; cacheTimeout=300000
11/09/26 14:50:10 WARN conf.Configuration: mapred.task.id is deprecated. Instead, use mapreduce.task.attempt.id
11/09/26 14:50:11 INFO fs.TestDFSIO: Cleaning up test files

11/09/26 14:12:28 INFO namenode.NameNode: STARTUP_MSG:

这里有一点要注意，如果已经进行过format操作，则再次操作的时候会报错，简单的处理方法是删除掉目录/hadoopdata/dfs/name这个目录。但是要注意，这么做，可能会丢失所有的数据；

–未完待续–

HADOOP安装

三少（David.Guo） — Thu, 22 Sep 2011 06:51:41 +0000

最近有时间看看hadoop的一些东西，而且在测试的环境上做了一些搭建的工作。仅记录之；
首先，安装前需要做一些准备工作。
1：准备三台虚拟机。使用一台pcserver作为测试服务器，同时使用Oracle VM VirtualBox来作为虚拟机的服务器。
新建了三个虚拟机以后，安装linux，我安装的linux的版本是redhat linux 5.4 x64版本。安装完成以后，
设置其中的ip地址，master服务器为：172.16.3.217；slave01为172.16.3.218；slave02为172.16.3.219；
2：给虚拟机安装java环境，由于hadoop推荐使用java的1.6版本。而实际上redhat 5.4自带的为1.4.2，
因此要先删除，然后再安装心的版本；java 1.6的版本到java的官方网站下载即可。下载到java的安装包以后。
首先删除系统自带的java 1.4.2；
在root用户下执行：
rpm -qa|grep gcj
能看到回显的结果中有类似：
java-1.4.2-gcj-compat-1.4.2.0-40jpp.115这样的内容
然后
rpm -e java-1.4.2-gcj-compat-1.4.2.0-40jpp.115
这个有可能无法执行成功，提示有依赖关系，这个时候，加上–nodeps再执行，就能成功了；
然后安装jdk 1.6，方法如下：
执行下载下来的bin文件：
./jdk-6u27-linux-x64-rpm.bin
然后安装生成的rpm文件：
rpm -ivh jdk-6u27-linux-amd64.rpm
等到安装完成以后，检查java安装的情况
java -version
一般会得到类似如下的信息：
java version “1.6.0_27″
Java(TM) SE Runtime Environment (build 1.6.0_27-b07)
Java HotSpot(TM) 64-Bit Server VM (build 20.2-b06, mixed mode)
安装完成以后，需要修改系统的文件让java的路径输出给所有的用户，一般修改的是/etc/profile,在这个文件中增加如下的内容：
export JAVA_HOME=/usr/java/jdk1.6.0_27
export PATH=$PATH:$JAVA_HOME/bin:$JAVA_HOME/jre/bin
export CLASSPATH=.:$JAVA_HOME/lib:$JAVA_HOME/jre/lib:$CLASSPATH
export PATH USER LOGNAME MAIL HOSTNAME HISTSIZE INPUTRC
export HADOOP_HOME=/root/jz/hadoop-0.21.0
export PATH=$HADOOP_HOME/bin:$PATH
在三个机器上都安装好java以后，可以继续下面的操作了；
3：在hadoop的官方网站 http://www.apache.org/dist/hadoop/common/hadoop-0.21.0/
下载文件hadoop-0.21.0.tar.gz 这个文件是hadoop 0.21.0版本的安装文件了。下载下来以后，
在master机器上的/root下新建一个jz目录，将hadoop的文件拷贝到这个目录下；
4：配置master到slave01和slave02的互信；
在master上执行：
ssh-keygen -t dsa -P ” -f ~/.ssh/id_dsa
执行完成以后，会在~/.ssh/生成两个文件：id_dsa 和id_dsa.pub。这两个是成对出现，
类似钥匙和锁。再把id_dsa.pub 追加到授权key 里面
cat ~/.ssh/id_dsa.pub >> ~/.ssh/authorized_keys
这个时候，如果你执行
ssh localhost
应该是不需要密码的。这表明你对本机的ssh互信成功。现在需要把这个文件拷贝给slave01和slave02
以下的操作需要对两个slave机器都做一次。以slave01为例：
scp id_dsa.pub root@172.16.3.218:/root/
然后到slave01上执行：
cat id_dsa.pub >> .ssh/authorized_keys
现在从master上直接ssh登陆slave01应该无需密码的，如果还是需要密码，要确保互信成功才能继续下面的操作；
5：修改master机器上的hosts文件为如下内容：
127.0.0.1 localhost.localdomain localhost
::1 localhost6.localdomain6 localhost6
172.16.3.217 master master.localdomain
172.16.3.218 slave01 slave01.localdomain
172.16.3.219 slave02 slave02.localdomain
6：将下载的hadoop文件解压：
tar -xvf hadoop-0.21.0.tar
7：修改hadoop的配置
修改/root/jz/hadoop-0.21.0/conf/目录下的master文件，内容如下：
172.16.3.217
修改/root/jz/hadoop-0.21.0/conf/目录下的slaves文件，内容如下：
172.16.3.218
172.16.3.219
修改/root/jz/hadoop-0.21.0/conf/hadoop-env.sh文件的环境变量：
# The java implementation to use. Required.
export JAVA_HOME=/usr/java/jdk1.6.0_20
修改/root/jz/hadoop-0.21.0/conf/core-site.xml配置文件，内容如下：
< ?xml version=”1.0″?>
< ?xml-stylesheet type=”text/xsl” href=”configuration.xsl”?>

hadoop.tmp.dir
/hadoopdata
A base for other temporary directories.

fs.default.name
hdfs://master:9000
The name of the default file system. A URI whose
scheme and authority determine the FileSystem implementation. The
uri’s scheme determines the config property (fs.SCHEME.impl) naming
the FileSystem implementation class. The uri’s authority is used to
determine the host, port, etc. for a filesystem.

dfs.hosts.exclude
excludes

修改/root/jz/hadoop-0.21.0/conf/hdfs-site.xml配置文件，内容如下：
< ?xml version=”1.0″?>
< ?xml-stylesheet type=”text/xsl” href=”configuration.xsl”?>

dfs.replication
1

修改/root/jz/hadoop-0.21.0/conf/mapred-site.xml配置文件，内容如下：
< ?xml version=”1.0″?>
< ?xml-stylesheet type=”text/xsl” href=”configuration.xsl”?>

mapred.job.tracker
master:9001
The host and port that the MapReduce job tracker runs
at. If “local”, then jobs are run in-process as a single map
and reduce task.

8:将/root/jz/hadoop-0.21.0整个目录拷贝到slave01和slave02上；将/etc/profile拷贝到slave01和slave02上；
将/etc/hosts拷贝到slave01和slave02上；
9：启动和关闭hadoop
启动hadoop：
sh /root/jz/hadoop-0.20.2/bin/start-all.sh
关闭hadoop：
sh /root/jz/hadoop-0.20.2/bin/start-all.sh
如果都成功，则安装hadoop成功。
—未完待续—

oracle 10g load超高调整hugepage 遭遇ora-29702

三少（David.Guo） — Wed, 03 Aug 2011 07:10:50 +0000

昨天晚上正在家看书，收到应用电话，某个业务的在线用户直线下跌，10分钟跌去了25%，第一反应是数据库有问题了，电话给负责这个数据库的兄弟，说是监控已经有告警，但是他当时不方便处理，那么，我来。

vpn登陆数据库，居然半天都连接不上主机，严重怀疑我家那个破铁通的网络，不过登陆2号节点没问题，还是比较快的。这个时候基本可以判断数据库出问题了；

等到漫长的登陆到数据库以后，发现数据库的load已经超过200，同时，swap使用超过了50%；这是一个由两个36G内存的服务器组建的oracle 10.2.0.4的RAC。

首先分析内存，确实free的只有180MB了，swap使用靠近8GB，系统的负载150左右。然后看看IO，本来这套系统的IO不咋地，以为是IO的问题，不过发现IO并不象想象中的那么高。首要问题还是内存。
这个机器有36GB内存，SGA给了17GB，当时的连接数，1300左右，根本不算高，内存却消耗殆尽。问题的原因，看起来是内存耗尽引起load高，但是内存又去那里了？

继续分析下去，cat /proc/meminfo 发现，这个系统的page tables使用接近10GB，而且，没有启用huge page。晚上没有机会去重启那个系统，只能等到今天白天了。

白天，我们修改好hugepage的使用，设置了vm.nr_hugepages 然后，尝试重启1号节点，先只重启一个节点，这基本上是我们干RAC数据库的时候的基本流程了，都养成习惯了。

重启以后，发现1号节点起不来。数据库直接给我一个错误：
Wed Aug 3 11:23:48 2011
Error: KGXGN polling error (15)
Wed Aug 3 11:23:48 2011
Errors in file /opt/oracle/admin/skycac/bdump/skycac1_lmon_19132.trc:
ORA-29702: error occurred in Cluster Group Service operation
LMON: terminating instance due to error 29702
这个错误有点意思，说是我们的Cluster可能有问题。

说实话，以前没碰到过这个错误，首先，我怀疑的是我的CRS有问题，看我的CRS status，显示的没什么异常。metalink了下，基本上，也没有太有用的信息。

然后，分析ocssd.log，看到如下信息：

[ CSSD]2011-08-03 10:25:42.298 >USER: Copyright 2011, Oracle version 10.2.0.4.0
[ clsdmt]Listening to (ADDRESS=(PROTOCOL=ipc)(KEY=db-192-168-173-98-skycacDBG_CSSD))
[ CSSD]2011-08-03 10:25:42.298 >USER: CSS daemon log for node db-192-168-173-98-skycac, number 1, in cluster crs_skycac_sd
[ CSSD]2011-08-03 10:25:42.311 [1779740768] >TRACE: clssscmain: local-only set to false
[ CSSD]2011-08-03 10:25:42.324 [1779740768] >TRACE: clssnmReadNodeInfo: added node 1 (db-192-168-173-98-skycac) to cluster
[ CSSD]2011-08-03 10:25:42.334 [1779740768] >TRACE: clssnmReadNodeInfo: added node 2 (db-192-168-173-99-skycac) to cluster
[ CSSD]2011-08-03 10:25:42.342 [1137916224] >TRACE: clssnm_skgxninit: Compatible vendor clusterware not in use
[ CSSD]2011-08-03 10:25:42.342 [1137916224] >TRACE: clssnm_skgxnmon: skgxn init failed
[ CSSD]2011-08-03 10:25:42.347 [1779740768] >TRACE: clssnmNMInitialize: misscount set to (60)
[ CSSD]2011-08-03 10:25:42.348 [1779740768] >TRACE: clssnmNMInitialize: Network heartbeat thresholds are: impending reconfig 30000 ms, reconfig start (misscount) 60000 ms
[ CSSD]2011-08-03 10:25:42.356 [1779740768] >TRACE: clssnmDiskStateChange: state from 1 to 2 disk (0//dev/raw/raw1)
[ CSSD]2011-08-03 10:25:42.356 [1137916224] >TRACE: clssnmvDPT: spawned for disk 0 (/dev/raw/raw1)
[ CSSD]2011-08-03 10:25:42.360 [1779740768] >TRACE: clssnmDiskStateChange: state from 1 to 2 disk (1//dev/raw/raw43)
[ CSSD]2011-08-03 10:25:42.363 [1148406080] >TRACE: clssnmvDPT: spawned for disk 1 (/dev/raw/raw43)
[ CSSD]2011-08-03 10:25:42.366 [1779740768] >TRACE: clssnmDiskStateChange: state from 1 to 2 disk (2//dev/raw/raw85)
[ CSSD]2011-08-03 10:25:42.370 [1086122304] >TRACE: clssnmvDPT: spawned for disk 2 (/dev/raw/raw85)
[ CSSD]2011-08-03 10:25:44.373 [1086122304] >TRACE: clssnmDiskStateChange: state from 2 to 4 disk (2//dev/raw/raw85)
[ CSSD]2011-08-03 10:25:44.376 [1158895936] >TRACE: clssnmvKillBlockThread: spawned for disk 2 (/dev/raw/raw85) initial sleep interval (1000)ms
[ CSSD]2011-08-03 10:25:44.378 [1086122304] >TRACE: clssnmReadDskHeartbeat: node(2) is down. rcfg(18) wrtcnt(1609409) LATS(4294194160) Disk lastSeqNo(1609409)
[ CSSD]2011-08-03 10:25:44.432 [1148406080] >TRACE: clssnmDiskStateChange: state from 2 to 4 disk (1//dev/raw/raw43)
[ CSSD]2011-08-03 10:25:44.432 [1137916224] >TRACE: clssnmDiskStateChange: state from 2 to 4 disk (0//dev/raw/raw1)
[ CSSD]2011-08-03 10:25:44.441 [1169385792] >TRACE: clssnmvKillBlockThread: spawned for disk 1 (/dev/raw/raw43) initial sleep interval (1000)ms
[ CSSD]2011-08-03 10:25:44.442 [1779740768] >TRACE: clssnmFatalInit: fatal mode enabled
[ CSSD]2011-08-03 10:25:44.442 [1179875648] >TRACE: clssnmvKillBlockThread: spawned for disk 0 (/dev/raw/raw1) initial sleep interval (1000)ms
[ CSSD]2011-08-03 10:25:44.445 [1137916224] >TRACE: clssnmReadDskHeartbeat: node(2) is down. rcfg(18) wrtcnt(1609409) LATS(4294194230) Disk lastSeqNo(1609409)
[ CSSD]2011-08-03 10:25:44.453 [1148406080] >TRACE: clssnmReadDskHeartbeat: node(2) is down. rcfg(18) wrtcnt(1609409) LATS(4294194240) Disk lastSeqNo(1609409)
[ CSSD]2011-08-03 10:25:44.453 [1200855360] >TRACE: clssnmClusterListener: Listening on (ADDRESS=(PROTOCOL=tcp)(HOST=db-192-168-173-98-skycac-priv)(PORT=49895))

信息有点多，看起来也很奇怪，仔细看下的时候，发现其中有一行有意思（被我加粗的那行），cssd进程认为节点2宕机。
前面提到过，我检查过CRS的状态，CRS报告说，2号节点正常，该online的都online了。这个信息明显不对，有一个哥们谎报了。
这个时候，登陆到2号节点检查CRS，状态依然是正常的。登陆下sqlplus，我想看看2号节点的数据库发生了什么。居然给我hang了。
这个时候，再去检查下2号节点的alert log，发现其中出现了一段很有意思的信息：

Wed Aug 3 09:48:13 2011
Errors in file /opt/oracle/admin/skycac/udump/skycac2_ora_7662.trc:
ORA-07445: exception encountered: core dump [kcbzib()+447] [SIGSEGV] [Address not mapped to object] [0x7FFF53865650] [] []
Wed Aug 3 09:48:14 2011
Trace dumping is performing id=[cdmp_20110803094814]
Wed Aug 3 09:48:28 2011
Process startup failed, error stack:
Wed Aug 3 09:48:28 2011
Errors in file /opt/oracle/admin/skycac/bdump/skycac2_psp0_15392.trc:
ORA-27300: OS system dependent operation:fork failed with status: 12
ORA-27301: OS failure message: Cannot allocate memory
ORA-27302: failure occurred at: skgpspawn3
Wed Aug 3 09:48:28 2011
Errors in file /opt/oracle/admin/skycac/udump/skycac2_ora_8035.trc:
ORA-07445: exception encountered: core dump [kcbgcur()+22] [SIGSEGV] [Address not mapped to object] [0x7FFF7E3E1FF0] [] []

这个信息说，2号节点的instance出现过7445错误，而出现错误的时间，刚好是1号节点重启的时间。
现在，我可以大胆推测问题的原因了：
1：应用通知说，应用都停了，可以重启数据库了；
2：DBA开始关闭1号节点的instance，但是这个时候数据库连接没有释放完成，1号节点关闭，导致大量的连接漂向2号节点；
3：2号节点受不了如此高的负载，instance hang了。
4：CRS检查2号节点正常；
5：1号节点的CSSD启动的时候，发现2号down了；
6：1号节点的instance重启的时候，认为Cluster异常。

对了，最后的处理方式，这个要说明下，最后怎么解决的：
关闭2号节点的instance，hang住了；关闭2号节点的CRS，hang住了；reboot 2号节点；等到两个节点都重启以后，重新启动HA，CRS，收工。

我的翻墙经历

三少（David.Guo） — Tue, 22 Feb 2011 08:07:36 +0000

随着最近的GFW越来越厉害，很多国外的技术网站有时候都打不开，打不开的直接后果是，我的技术水平下降一个层次都不止。因此，就试试翻墙了。
首先，要做的事情是，去购买一个ssh帐号，我买了一个，80RMB一年，价格还算能接受，少喝一次酒就足够用好几年的了。
然后要做的，是下载一个MyEnTunnel，这个软件是用来设置连接ssh服务器的。
设置的方法大致就是下面的图了。

然后启动这玩意。

然后，我用的浏览器是google的chrome，要在这个里面下载一个插件switchy！
然后设置它，设置也很简单，下面的设置就够了

然后再设置下：

然后，就感觉不到有啥问题了，

招人了，好职位。

三少（David.Guo） — Wed, 12 Jan 2011 03:40:54 +0000

运维部门招人了，因为原来这个职位的兄弟高升了，所以空出了一个好的职位了。

职位名称：运维技术经理

职责：

1、运维相关技术架构方向把控
2、深入公司生产项目，进行项目中运维技术协调和应用
3、协助部门经理进行运维监控组和业务部署组的事务、人员管理
4、员工招聘技术把握和新员工技术培养；

要求：

1、本科（含）以上学历，计算机科学与技术相关专业者优先
2、五年以上运维技术和管理工作经验；
3、精通Linux系统、网络技术，虚拟化应用，熟悉安全和数据库技术；
4、精通IP网络和无线网络应用，能够独立进行组网规划和网络维护；精通常用的运维工具，能够在工作中熟练的组合运用
5、能够独立进行大型复杂系统和数据库的部署、迁移和维护，以及监控体系的搭建
6、具备一定的团队管理能力；为人正直、诚信，具有极强的责任心和职业精神

有推荐的兄弟，请邮件给我david.guo#sky-mobi.com

淘宝的兄弟帮我看看啥问题

三少（David.Guo） — Tue, 04 Jan 2011 10:34:30 +0000

我用了购物车功能，就无法确认订单了。

这个是在网页下方的错误信息里面出来的，点出来的详细错误信息。

网页错误详细信息用户代理: Mozilla/4.0 (compatible; MSIE 8.0; Windows NT 6.1; Trident/4.0; SLCC2; .NET CLR 2.0.50727; .NET CLR 3.5.30729; .NET CLR 3.0.30729; Media Center PC 6.0; InfoPath.3; CIBA) 时间戳: Tue, 4 Jan 2011 10:24:07 UTC 消息: 未结束的字符串常量行: 296 字符: 26 代码: 0 URI: http://buy.taobao.com/auction/order/confirm_order.htm?cart_id=4190453950,4190444310,4108432297,4108423869,4108428163,4108411744

windows 7+IE 8，另外，淘宝客服最好先休息下，那个态度之差，动不动就相关部门。

开始学习Mysql

三少（David.Guo） — Tue, 02 Nov 2010 01:36:35 +0000

最近一段时间，公司内部的数据库的事情也差不多理顺了。

oracle数据库，恩，我们这都是oracle dba，postgresql数据库，下面的兄弟也有两个人能干这活了，还是比较稳定的。

mysql没人干了，而且，咋也得搞点新的东西来学习下，公司也有不少的东西准备迁移到mysql上运行。那就好好学习下mysql。

MySQL 5.1 Reference Manual

欢迎有兴趣的兄弟一起探讨。

PS：Mysql，我还是初学者，嗯，有问题我就经常骚扰alibaba的苏普，哥们可是Mysql高手。。。

请谅解，我不对前家公司的任何事情发表任何评论

三少（David.Guo） — Mon, 23 Aug 2010 08:24:07 +0000

离开前家公司，快半年了。
经常有人在qq或者mail或者电话问我，说是想去我前家公司，问我前家公司怎么样。说实话，我很理解，去一家公司之前，先了解下这个公司的心态，如果我处在他们的位置，我也会找个人问的。
但是，也请谅解，我不会对前家公司的任何事情作出任何的评论。任何事情，冷暖自知，如果我说好，你去了，感觉不好，会回过头来骂我；如果我说不好，你没去，结果后悔，这个责任也是我不能承受的。
而且，站在我的角度，我也不知道应该说好，还是说不好。说好，人家会问，那你为啥离职？说不好，人家会说，那你怎么还待了靠近三年。
还是那句话，冷暖自知！！！

BCM培训小结

三少（David.Guo） — Mon, 16 Aug 2010 08:40:44 +0000

业务连续性管理（Business Continuity Management，简称BCM），是一项综合管理流程，它使企业认识到潜在的危机和相关影响，制订响应、业务和连续性的恢复计划，其总体目标是为了提高企业的风险防范能力，以有效地响应非计划的业务破坏并降低不良影响。
BCM规划与实施包括企业信息系统的基础数据、应用系统与业务的灾难备份与恢复计划。

BCM一共有六个大的步骤，分别是：

BCM范围识别，其主要目的是识别关键的业务和资源（这个部分非常关键，如果这个部分出现偏差，则会导致整个BCM偏差）；

BCM风险分析，其主要目的是分析业务中断时的影响，这里有两个非常关键的概念，MTPD，最大可容忍的业务中断时间；RTO，恢复目标时间；这个部分也称为BIA，如果这个部分分析错误，则会导致整个BCM失败（这个部分很关键，BIA部分也是整个BCM部分最难的）；

BCM策略，主要是完成总体业务持续管理策略，活动选择性策略以及资源层的整合；在这个部分要考虑PPTISSC（这个部分是BCM的金团队，也就是老板们决定的事情）；

BCM反应和计划，也就是BCP过程，基于BCM策略，业务影响分析，风险评估和BCM策略，开发和执行适当的BCM计划和安排（这个部分需要无数的文档来完成，也是整个BCM过程中最累的部分）；

后面两个步骤是BCM培训和维护，就比较简单点了。

BCM的一切都是基于假想的，BCM关注的是关键业务中断的时候，所采取的措施。

对于一个互联网企业，其关注的应该是能引起关键业务中断的事件的管理。例如，IDC机房整体瘫痪，员工群发性自杀，工作所在地发生严重的自然灾害等情况。平时的容灾呀，备份呀考虑的层面应该都小于BCM。

BCM和风险管理有着本质的区别，其区别主要在于：
（下图摘自DNV在BCM培训中的部分，版权属于DNV）

需要记住的是，BCM关注于业务的恢复，而不是业务为什么发生中断，一般来说，BCM的启动都是基于事件已经发生，而不是事件可能发生。

支付宝？这么烂的用户体验？

三少（David.Guo） — Fri, 06 Aug 2010 09:36:53 +0000

IE8，登录支付宝，准备进行信用卡还款，连续三次都是下面这个界面

看看这到底是个啥垃圾？？？？？？？？？？？？？？？？？？？？？？？

启动转岗流程

三少（David.Guo） — Thu, 24 Jun 2010 09:26:29 +0000

入职靠近四个月的时候，正式启动了我的转岗流程。

从预研部的高级DBA转岗到研发部-运维的职位，从P线转岗到M线。不知道以后会累成啥样了。

世界杯开幕了

三少（David.Guo） — Sat, 12 Jun 2010 01:33:44 +0000

世界杯开幕了，相信很多人会去看世界杯。
可是偶，对足球一窍不通，只能看别人狂欢了。
或许这一个月，是很多人的盛宴，我就可以好好工作了，嘿嘿，希望晚上不要被看球的人吵醒。

预祝alan，lori，doris的ocm考试通过

三少（David.Guo） — Wed, 09 Jun 2010 03:37:35 +0000

今天得到lori的消息，他也报名参加ocm考试了。
以前我们在zmcc团队一共四个人，我，alan，lori，doris。去年11月，我通过了ocm考试，后来由于种种原因，今年的3月选择了离开那个团队。
如果他们三个一起考过，那应该是这个team原来的四个人全部都是ocm了，也是可以让我自豪的事情了。
在此，预祝他们，一次全部通过。

mysql 1045(28000)错误

三少（David.Guo） — Tue, 01 Jun 2010 11:30:36 +0000

今天不知道怎么了，在windowns 7上安装mysql，就是不成功，后来没有办法去，在http://dev.mysql.com/downloads/mysql/下了个免安装的版本，解压后，用是能用了。

给应用测试的人建立了一个测试的数据库和用户，奇怪的是，在本地登录没事，远程登录，无论如何都报10045（28000）错误。

C:\Windows\system32>mysql -uuism -h 172.16.9.43
ERROR 1045 (28000): Access denied for user ‘uism’@’172.16.5.20′ (using password:
YES)

用户在本地登录是好的，远程无论如何都不行，不管给不给密码。查询网络发现，需要将user表中那个用户名为空的用户干掉；

mysql> delete from user where user is null;
Query OK, 0 rows affected (0.00 sec)

mysql> delete from user where user =”;
Query OK, 1 row affected (0.00 sec)
这里看看，原来这个用户名还不是null，只是一个空字符串，晕倒。
然后，重新更新下权限，
mysql> flush privileges;
Query OK, 0 rows affected (0.00 sec)

再在客户端做链接：
C:\Windows\system32>mysql -uuism -h172.16.9.43
Welcome to the MySQL monitor. Commands end with ; or \g.
Your MySQL connection id is 103
Server version: 5.1.47-community MySQL Community Server (GPL)

Type ‘help;’ or ‘\h’ for help. Type ‘\c’ to clear the current input statement.

mysql>

Mysql怎么会有这么搞笑的问题，哈哈，而且那个用户的host为%的那个，密码为空，现在变成了远程不需要密码，本地需要密码，囧！

加入我们，蛋糕西瓜伺候

三少（David.Guo） — Mon, 31 May 2010 08:15:30 +0000

上周五开始，每天下午靠近四点有蛋糕吃，而且上周五开始有西瓜，不过人太多，上周差点没抢到。

今天下午，居然是公司的pp行政来一个一个的发，每人一份西瓜和蛋糕。

下面是这两吃的的图片，加入我们吧，天天上班吃蛋糕和西瓜：）

mysql问题一例

三少（David.Guo） — Thu, 27 May 2010 09:18:41 +0000

今天开始处理我们的后台数据库中的一个mysql的问题，问题症状是，每天有个不固定的时间，整个系统的sql执行会非常慢，如果你不理他，过会就自己好了。

简单分析了下，那个系统就两个表，被设计成了mysql cluster模式。

在slow log中有如下内容：

………

Count: 3568 Time=0.00s (0s) Lock=0.00s (0s) Rows=0.0 (0), session[session]@localhost

# Query_time: N.N Lock_time: N.N Rows_sent: N Rows_examined: N

SET timestamp=N;

select * from session where sky_id=N

Count: 284 Time=0.00s (0s) Lock=0.00s (0s) Rows=0.0 (0), session[session]@localhost

# Query_time: N.N Lock_time: N.N Rows_sent: N Rows_examined: N

SET timestamp=N;

delete from session where sky_id=N

Count: 690 Time=0.00s (0s) Lock=0.00s (0s) Rows=0.0 (0), session[session]@localhost

# Query_time: N.N Lock_time: N.N Rows_sent: N Rows_examined: N

SET timestamp=N;

insert into session(sky_id, user_name, nick_name, nick_name1, gender, age, portrait_id, token, province, city, pos_code, pos_desc, acc_esbaddr, acc_session_index, acc_type, ip, alive_check, rand_tag, last_oltime, logintime) values(N, ‘S’, ‘S’, ‘S’, N, N, N, N, ‘S’, ‘S’, N, ‘S’, N, N, N, ‘S’, N, N, N, N)

Count: 1572 Time=0.00s (0s) Lock=0.00s (0s) Rows=0.0 (0), session[session]@localhost

# Query_time: N.N Lock_time: N.N Rows_sent: N Rows_examined: N

SET timestamp=N;

select * from session where sky_id in (N,N)

Count: 3568 Time=0.00s (0s) Lock=0.00s (0s) Rows=0.0 (0), session[session]@localhost  # Query_time: N.N Lock_time: N.N Rows_sent: N Rows_examined: N  SET timestamp=N;  select * from session where sky_id=N
Count: 284 Time=0.00s (0s) Lock=0.00s (0s) Rows=0.0 (0), session[session]@localhost  # Query_time: N.N Lock_time: N.N Rows_sent: N Rows_examined: N  SET timestamp=N;  delete from session where sky_id=N
Count: 690 Time=0.00s (0s) Lock=0.00s (0s) Rows=0.0 (0), session[session]@localhost  # Query_time: N.N Lock_time: N.N Rows_sent: N Rows_examined: N  SET timestamp=N;  insert into session(sky_id, user_name, nick_name, nick_name1, gender, age, portrait_id, token, province, city, pos_code, pos_desc, acc_esbaddr, acc_session_index, acc_type, ip, alive_check, rand_tag, last_oltime, logintime) values(N, ‘S’, ‘S’, ‘S’, N, N, N, N, ‘S’, ‘S’, N, ‘S’, N, N, N, ‘S’, N, N, N, N)
Count: 1572 Time=0.00s (0s) Lock=0.00s (0s) Rows=0.0 (0), session[session]@localhost  # Query_time: N.N Lock_time: N.N Rows_sent: N Rows_examined: N  SET timestamp=N;  select * from session where sky_id in (N,N)

………………..

这段代码看，执行慢最多的sql居然是在session表上的，看看session表的结构

mysql> desc session;

+——————-+———————+——+—–+———+——-+

+——————-+———————+——+—–+———+——-+

| age | int(10) unsigned | YES | | NULL | |

| ip | char(15) | YES | | NULL | |

| longitude | int(11) | YES | MUL | NULL | |

| latitude | int(11) | YES | MUL | NULL | |

| rand_tag | int(11) | YES | MUL | NULL | |

| mid | varchar(256) | YES | | NULL | |

| last_oltime | int(11) | YES | | 0 | |

| logintime | int(11) | YES | | 0 | |

+——————-+———————+——+—–+———+——-+

24 rows in set (0.05 sec)

可以看出，sky_id上是主键。

再看看这个执行最慢的几个sql的执行计划：

mysql> explain select * from session where sky_id=112414853 \G;

*************************** 1. row ***************************

id: 1

select_type: SIMPLE

table: NULL

type: NULL

possible_keys: NULL

key: NULL

key_len: NULL

ref: NULL

rows: NULL

Extra: Impossible WHERE noticed after reading const tables

1 row in set (0.00 sec)

ERROR:

No query specified

mysql>

mysql> explain select * from session where sky_id in (112414853,-1,-1) \G;

*************************** 1. row ***************************

id: 1

select_type: SIMPLE

table: session

type: range

possible_keys: PRIMARY

key: PRIMARY

key_len: 4

ref: NULL

rows: 2

Extra: Using where with pushed condition

1 row in set (0.00 sec)

ERROR:

No query specified

居然，既然，在主键上使用了=比较的sql，执行计划不正常。

这个问题，到现在我还没分析出来是为啥，不过，千万别告诉我，第一次处理mysql的问题就是bug，虽然我个人觉得很像是某个bug

最后，看看我的数据库的版本吧

mysql> select version();

+——————————-+

| version() |

+——————————-+

| 5.1.27-ndb-6.3.17-cluster-gpl |

+——————————-+

1 row in set (0.01 sec)

嗯，还有操作系统的版本：

Linux 2.6.18-92.el5PAE #1 SMP 2008 i686 i686 i386 GNU/Linux

欢迎mysql高手，就这个问题给予建议。

—————————HLL的分隔线————————————————–

在昨天晚上的跟踪中，应用发现，出现过一次堵塞的情况，持续了大概一分多钟，幸运的是，抓取到了部分信息，不幸的是，只抓取到堵塞后期的信息。抓取到的信息如下：

Tue May 25 23:50:01 CST 2010
| Com_delete                        | 234701644     |
| Com_insert                        | 273000005     |
| Com_select                        | 2115743023    |
| Com_update                        | 203911543     |
| Com_delete                        | 0             |
| Com_insert                        | 0             |
| Com_select                        | 0             |
| Com_update                        | 0             |
| Com_delete                        | 0             |
| Com_insert                        | 0             |
| Com_select                        | 0             |
| Com_update                        | 0             |
| Com_delete                        | 0             |
| Com_insert                        | 0             |
| Com_select                        | 0             |
| Com_update                        | 0             |
| Com_delete                        | 0             |
| Com_insert                        | 0             |
| Com_select                        | 0             |
| Com_update                        | 1             |
| Com_delete                        | 0             |
| Com_insert                        | 0             |
| Com_select                        | 0             |
| Com_update                        | 0             |
| Com_delete                        | 0             |
| Com_insert                        | 0             |
| Com_select                        | 0             |
| Com_update                        | 0             |
| Com_delete                        | 0             |
| Com_insert                        | 0             |
| Com_select                        | 0             |
| Com_update                        | 0             |
| Com_delete                        | 0             |
| Com_insert                        | 0             |
| Com_select                        | 0             |
| Com_update                        | 0             |
| Com_delete                        | 0             |
| Com_insert                        | 0             |
| Com_select                        | 0             |
| Com_update                        | 0             |
| Com_delete                        | 0             |
| Com_insert                        | 0             |
| Com_select                        | 0             |
| Com_update                        | 0             |
| Com_delete                        | 0             |
| Com_insert                        | 0             |
| Com_select                        | 0             |
| Com_update                        | 0             |
| Com_delete                        | 0             |
| Com_insert                        | 0             |
| Com_select                        | 0             |
| Com_update                        | 0             |
| Com_delete                        | 0

|
| Com_insert                        | 0             |
| Com_select                        | 0             |
| Com_update                        | 0             |
| Com_delete                        | 0             |
| Com_insert                        | 0             |
| Com_select                        | 0             |
| Com_update                        | 1             |
| Com_delete                        | 0             |
| Com_insert                        | 0             |
| Com_select                        | 0             |
| Com_update                        | 0             |
| Com_delete                        | 0             |
| Com_insert                        | 0             |
| Com_select                        | 0             |
| Com_update                        | 0             |
| Com_delete                        | 0             |
| Com_insert                        | 0             |
| Com_select                        | 0             |
| Com_update                        | 0             |
| Com_delete                        | 51            |
| Com_insert                        | 52            |
| Com_select                        | 170           |
| Com_update                        | 21            |
| Com_delete                        | 741           |
| Com_insert                        | 504           |
| Com_select                        | 3110          |
| Com_update                        | 435           |
Tue May 25 23:50:23 CST 2010

很明显，在这个时间段的时候，系统发生了严重的堵塞，当时的processlist的信息如下：

2010-05-25 23:50:01

Id User Host db Command Time State Info

1 system user Daemon 0 Waiting for event from ndbcluster NULL

10044 session localhost:58941 session Sleep 23 NULL

10045 session localhost:58942 session Sleep 23 NULL

10046 session localhost:58943 session Sleep 22 NULL

10047 session localhost:58944 session Sleep 22 NULL

10048 session localhost:58945 session Sleep 22 NULL

10049 session localhost:58946 session Sleep 22 NULL

10050 session localhost:58947 session Sleep 22 NULL

10051 session localhost:58948 session Sleep 22 NULL

10052 session localhost:58949 session Sleep 23 NULL

10053 session localhost:58950 session Sleep 23 NULL

10054 session localhost:58951 session Sleep 23 NULL

10055 session localhost:58952 session Sleep 22 NULL

10056 session localhost:58953 session Sleep 22 NULL

10057 session localhost:58954 session Sleep 23 NULL

10058 session localhost:58955 session Sleep 22 NULL

10059 session localhost:58956 session Sleep 22 NULL

10060 session localhost:58957 session Sleep 22 NULL

10061 session localhost:58958 session Sleep 23 NULL

10062 session localhost:58959 session Sleep 23 NULL

10063 session localhost:58960 session Sleep 23 NULL

10064 session localhost:58961 session Sleep 23 NULL

10065 session localhost:58962 session Sleep 22 NULL

10066 session localhost:58963 session Sleep 22 NULL

10067 session localhost:58964 session Sleep 22 NULL

10068 session localhost:58965 session Sleep 22 NULL

10069 session localhost:58966 session Sleep 23 NULL

10070 session localhost:58967 session Sleep 23 NULL

10071 session localhost:58968 session Sleep 23 NULL

10072 session localhost:58969 session Sleep 22 NULL

10073 session localhost:58970 session Sleep 22 NULL

10074 session localhost:58971 session Sleep 22 NULL

10075 session localhost:58972 session Sleep 23 NULL

10076 session localhost:58973 session Sleep 22 NULL

10077 session localhost:58974 session Sleep 23 NULL

10078 session localhost:58975 session Sleep 22 NULL

10079 session localhost:58976 session Sleep 22 NULL

10080 session localhost:58977 session Sleep 23 NULL

10081 session localhost:58978 session Sleep 22 NULL

10082 session localhost:58979 session Sleep 23 NULL

10083 session localhost:58980 session Sleep 22 NULL

10084 session localhost:58981 session Sleep 22 NULL

10085 session localhost:58982 session Sleep 22 NULL

10086 session localhost:58983 session Sleep 22 NULL

10087 session localhost:58984 session Sleep 22 NULL

10088 session localhost:58985 session Sleep 22 NULL

10089 session localhost:58986 session Sleep 22 NULL

10090 session localhost:58987 session Sleep 22 NULL

10091 session localhost:58988 session Sleep 23 NULL

10092 session localhost:58989 session Sleep 22 NULL

10093 session localhost:58990 session Sleep 23 NULL

10094 session localhost:58991 session Sleep 22 NULL

10095 session localhost:58992 session Sleep 23 NULL

10096 session localhost:58993 session Sleep 23 NULL

10097 session localhost:58994 session Sleep 23 NULL

10098 session localhost:58995 session Sleep 22 NULL

10099 session localhost:58996 session Sleep 23 NULL

10100 session localhost:58997 session Sleep 22 NULL

10101 session localhost:58998 session Sleep 22 NULL

10102 session localhost:58999 session Sleep 22 NULL

10103 session localhost:59000 session Sleep 23 NULL

10550 session 192.168.3.29:44979 session Sleep 652 NULL

10566 session 192.168.3.53:45132 session Sleep 23 NULL

10567 session 192.168.3.53:45133 session Sleep 25 NULL

10568 session 192.168.3.53:45134 session Sleep 23 NULL

10569 session 192.168.3.53:45135 session Sleep 20 NULL

10570 session 192.168.3.53:45136 session Sleep 25 NULL

10571 session 192.168.3.53:45137 session Sleep 15 NULL

10572 session 192.168.3.53:45138 session Sleep 23 NULL

10573 session 192.168.3.53:45139 session Sleep 23 NULL

10574 session 192.168.3.53:45140 session Sleep 24 NULL

10575 session 192.168.3.53:45141 session Sleep 24 NULL

10576 session 192.168.3.53:45142 session Sleep 24 NULL

10577 session 192.168.3.53:45143 session Sleep 24 NULL

10578 session 192.168.3.53:45144 session Sleep 18 NULL

10579 session 192.168.3.53:45145 session Sleep 16 NULL

10580 session 192.168.3.53:45146 session Sleep 23 NULL

10581 session 192.168.3.53:45147 session Sleep 24 NULL

10582 session 192.168.3.53:45148 session Sleep 24 NULL

10583 session 192.168.3.53:45149 session Sleep 25 NULL

10584 session 192.168.3.53:45151 session Sleep 23 NULL

10585 session 192.168.3.53:45152 session Sleep 24 NULL

10586 session 192.168.3.53:45153 session Sleep 25 NULL

10587 session 192.168.3.53:45154 session Sleep 24 NULL

10588 session 192.168.3.53:45155 session Sleep 25 NULL

10589 session 192.168.3.53:45156 session Sleep 25 NULL

10590 session 192.168.3.53:45157 session Sleep 24 NULL

10591 session 192.168.3.53:45158 session Sleep 24 NULL

10592 session 192.168.3.53:45159 session Sleep 24 NULL

10593 session 192.168.3.53:45160 session Sleep 17 NULL

10594 session 192.168.3.53:45161 session Sleep 22 NULL

10595 session 192.168.3.53:45162 session Sleep 26 NULL

10596 session 192.168.3.53:45163 session Sleep 23 NULL

10597 session 192.168.3.53:45164 session Sleep 24 NULL

10598 session 192.168.3.53:51053 session Sleep 24 NULL

10599 session 192.168.3.53:51054 session Sleep 24 NULL

10600 session 192.168.3.53:51059 session Sleep 25 NULL

10601 session 192.168.3.53:51060 session Sleep 16 NULL

10602 session 192.168.3.53:51063 session Sleep 23 NULL

10603 session 192.168.3.53:51067 session Sleep 23 NULL

10604 session 192.168.3.53:51069 session Sleep 25 NULL

10605 session 192.168.3.53:51070 session Sleep 23 NULL

10606 session 192.168.3.53:51073 session Sleep 24 NULL

10607 session 192.168.3.53:51077 session Sleep 24 NULL

10608 session 192.168.3.53:51078 session Sleep 25 NULL

10609 session 192.168.3.53:51081 session Sleep 24 NULL

10610 session 192.168.3.53:51082 session Sleep 16 NULL

10611 session 192.168.3.53:51083 session Sleep 15 NULL

10612 session 192.168.3.53:51087 session Sleep 21 NULL

10613 session 192.168.3.53:51088 session Sleep 24 NULL

10614 session 192.168.3.53:51091 session Sleep 24 NULL

10615 session 192.168.3.53:51093 session Sleep 25 NULL

10616 session 192.168.3.53:51095 session Sleep 17 NULL

10617 session 192.168.3.53:51096 session Sleep 25 NULL

10618 session 192.168.3.53:51098 session Sleep 21 NULL

10619 session 192.168.3.53:51101 session Sleep 25 NULL

10620 session 192.168.3.53:51102 session Sleep 24 NULL

10621 session 192.168.3.53:51106 session Sleep 23 NULL

10622 session 192.168.3.53:51109 session Sleep 25 NULL

10623 session 192.168.3.53:51111 session Sleep 24 NULL

10624 session 192.168.3.53:51113 session Sleep 24 NULL

10625 session 192.168.3.53:51116 session Sleep 24 NULL

10626 session 192.168.3.53:51118 session Sleep 24 NULL

10627 session 192.168.3.53:51119 session Sleep 24 NULL

10628 session 192.168.3.53:51120 session Sleep 23 NULL

10629 session 192.168.3.53:51121 session Sleep 32 NULL

10630 session 192.168.3.53:51122 session Sleep 24 NULL

10631 session 192.168.3.53:51125 session Sleep 24 NULL

10632 session 192.168.3.53:51126 session Sleep 25 NULL

10633 session 192.168.3.53:51130 session Sleep 24 NULL

10634 session 192.168.3.53:51131 session Sleep 24 NULL

10635 session 192.168.3.53:51132 session Sleep 24 NULL

10636 session 192.168.3.53:51138 session Sleep 23 NULL

10637 session 192.168.3.53:51139 session Sleep 15 NULL

10638 session 192.168.3.53:51140 session Sleep 24 NULL

10639 session 192.168.3.53:51141 session Sleep 15 NULL

10640 session 192.168.3.53:51142 session Sleep 25 NULL

10641 session 192.168.3.53:51143 session Sleep 24 NULL

10642 session 192.168.3.53:51144 session Sleep 23 NULL

10643 session 192.168.3.53:51146 session Sleep 15 NULL

10644 session 192.168.3.53:51147 session Sleep 22 NULL

10645 session 192.168.3.53:51151 session Sleep 17 NULL

10646 session 192.168.3.53:51152 session Sleep 18 NULL

10647 session 192.168.3.53:51157 session Sleep 23 NULL

10648 session 192.168.3.53:51158 session Sleep 24 NULL

10649 session 192.168.3.53:51159 session Sleep 24 NULL

10650 session 192.168.3.53:51161 session Sleep 24 NULL

10651 session 192.168.3.53:51162 session Sleep 24 NULL

10652 session 192.168.3.53:51172 session Sleep 23 NULL

10653 session 192.168.3.53:51173 session Sleep 23 NULL

10654 session 192.168.3.53:51176 session Sleep 23 NULL

10655 session 192.168.3.53:51178 session Sleep 15 NULL

10656 session 192.168.3.53:51180 session Sleep 24 NULL

10657 session 192.168.3.53:51184 session Sleep 18 NULL

10658 session 192.168.3.53:51185 session Sleep 24 NULL

10659 session 192.168.3.53:51187 session Sleep 24 NULL

10660 session 192.168.3.53:51190 session Sleep 21 NULL

10661 session 192.168.3.53:51191 session Sleep 30 NULL

10663 session 192.168.3.29:40779 session Sleep 11 NULL

10949 root localhost session Query 0 NULL show processlist

可惜的是，由于采集间隔的原因，没有采集到当时processlist的更多信息，今天开始，采集间隔为每分钟一次，我不信我看不到系统在干吗？

今天上午10点左右，正准备参加oracle的一个网络研讨会，结果，系统又出现了堵塞的情况。看看系统当时在干吗

mysql> show processlist;

+——-+————-+——————–+———+———+——+———————————–+——————————————————————————————————+

| 10550 | session | 192.168.3.29:44979 | session | Sleep | 29 | | NULL |

| 10663 | session | 192.168.3.29:40779 | session | Sleep | 28 | | NULL |

| 14144 | session | 192.168.3.29:33168 | session | Sleep | 28 | | NULL |

| 14234 | session | 192.168.3.29:50465 | session | Sleep | 27 | | NULL |

164 rows in set (0.00 sec)

居然一堆的进程在等待这两个事件。

检查系统参数

mysql> show variables like ‘table_open_cache’;

+——————+——-+

| Variable_name | Value |

+——————+——-+

| table_open_cache | 64 |

+——————+——-+

1 row in set (0.00 sec)

在看看这个现在用到了多少

mysql> show global status like ‘open_tables’;

+—————+——-+

| Variable_name | Value |

+—————+——-+

| Open_tables | 91 |

+—————+——-+

1 row in set (0.00 sec)

修改下系统的参数

mysql> set global table_open_cache=512;

Query OK, 0 rows affected (0.00 sec)

问题消失了，可是我却无法确认这个问题的消失，是系统自动恢复了，还是我这个设置生效了，只能继续观察了。

以下职位，诚招！

三少（David.Guo） — Mon, 24 May 2010 03:25:54 +0000

资深开发DBA

工作地点：杭州

技能要求:

1.精通SQL代码编写

2.熟悉SQL优化

3.精通数据库建模

4.良好的沟通技能、团队合作能力

5.具有良好的数据建模能力

6.掌握数据库开发与设计工具的使用

7.三年以上开发DBA工作经验

8.至少熟悉掌握ORACLE/POSTGRESQL/MYSQL中的一种

9.有开发经验者优先

工作职责:

1.负责 DB 开发、以及开发/测试库的日常维护；

2.负责 DB Schema 设计以及评审；

3.完善和宣贯 DB 开发规范和相关流程，提高应用开发人员 DB 开发技能。

4.评估，跟踪，支持开发项目

5.数据库变更管理

6.数据库开发相关性能优化

7.开发、测试环境管理与维护

这个岗位的人，我会亲自带，目前隶属在公司最为核心的研发部门。发展机会非常不错，目前定位是资深开发dba，目标定位是开发dba主管，有兴趣的人，给我简历。

guoyue@gmail.com

培训视频–DEMO

三少（David.Guo） — Fri, 21 May 2010 04:31:30 +0000

昨天参加公司的TTT（Train The Trainer）培训，每个人有10分钟的培训视频，然后进行反馈和讲解。

这也应该是我这么多年唯一的一次培训/演讲的视频吧。

培训视频–DEMO

5月15日，我在这里！

三少（David.Guo） — Fri, 14 May 2010 06:01:25 +0000

欢迎参加斯凯网络专场招聘会

时间：2010年05月15日

地点：杭州市文三路199号杭州高新人才市场(上宁桥车站,学军中学对面)

公交线路：上宁桥站（K37,42/K42,57/K57,K74,82/K82,86/K86,K95,K156,K179,270/K270,K283,527/K527）

企业介绍：

SKY-MOBI.Inc.（杭州斯凯网络科技有限公司，下简称SKY）是由美国顶级VC投资的高科技软件企业。成立于2005年，短短的三年时间已成长为中国最大的移动终端应用软件提供商，专门为运营商、手机制造商、服务提供商等提供手机应用软件开发服务。SKY始终坚持以自主技术为核心，通过全新商业理念获得了全国各类客户的广泛认可。
SKY公司总部设在杭州，上海、深圳、北京分别设有办事处。现有员工90%具有本科及以上学历，平均年龄 27岁。核心团队均来自国际一流通信企业，在相关领域已有 5 年以上的管理和开发经验。公司秉承 “ 以人为本 ” 的企业经营理念，高度重视人力资本的持续增值，为员工提供全面的薪酬福利体系，极具挑战性的工作与良好的职业发展前景

和DBA相关的职位如下：

运维DBA：

工作地点：杭州

工作职责：

1.PostgreSQL,EnterpriseDB,GreenPlum数据库之一的维护和管理；

2.业务运营数据库系统的稳定运行与日常维护保障；

3.业务运营数据库的存储安全、备份及恢复、容灾，确保数据库高可用性；

4.对数据库进行性能优化、故障分析处理；

任职要求：

1.了解数据库原理及几种主流数据库之间的差异；

2.熟悉redhat enterprise linux操作系统；

3.二年以上数据库管理经验，至少熟悉PostgreSQL、EnterpriseDB、GreenPlum管理之一,有Oracle管理经验优先；

4.熟悉数据库高可用、高性能方案设计;

5.熟悉分布式数据库设计优先考虑;

6.具有较强的业务理解能力，能根据业务需求设计出合理的数据模型；

7.具备高度的责任心，学习能力强，具有团队合作精神；

工作职责：

1.PostgreSQL,EnterpriseDB,GreenPlum数据库之一的维护和管理；

2.业务运营数据库系统的稳定运行与日常维护保障；

3.业务运营数据库的存储安全、备份及恢复、容灾，确保数据库高可用性；

4.对数据库进行性能优化、故障分析处理；

任职要求：

1.了解数据库原理及几种主流数据库之间的差异；

2.熟悉redhat enterprise linux操作系统；

3.二年以上数据库管理经验，至少熟悉PostgreSQL、EnterpriseDB、GreenPlum管理之一,有Oracle管理经验优先；

4.熟悉数据库高可用、高性能方案设计;

5.熟悉分布式数据库设计优先考虑;

6.具有较强的业务理解能力，能根据业务需求设计出合理的数据模型；

7.具备高度的责任心，学习能力强，具有团队合作精神；

资深开发DBA

工作地点：杭州

技能要求:

1.精通SQL代码编写

2.熟悉SQL优化

3.精通数据库建模

4.良好的沟通技能、团队合作能力

5.具有良好的数据建模能力

6.掌握数据库开发与设计工具的使用

7.三年以上开发DBA工作经验

8.至少熟悉掌握ORACLE/POSTGRESQL/MYSQL中的一种

9.有开发经验者优先

工作职责:

1.负责 DB 开发、以及开发/测试库的日常维护；

2.负责 DB Schema 设计以及评审；

3.完善和宣贯 DB 开发规范和相关流程，提高应用开发人员 DB 开发技能。

4.评估，跟踪，支持开发项目

5.数据库变更管理

6.数据库开发相关性能优化

7.开发、测试环境管理与维护

发布几个招聘信息了

三少（David.Guo） — Wed, 12 May 2010 08:52:54 +0000

帮公司hr发布几个招聘信息，有推荐的人记得给我mail ：guoyue@gmail.com

—————————–我是分割线———————————————

网游支持工程师

工作地点：杭州/北京

岗位职责：

1.执行技术交流和培训，帮助合作方（简称CP）工程师掌握斯凯平台开发技术；

2.维护平台接口代码，根据业务需要进行封装和功能拓展性开发；

3.开发、完善技术交流与培训教材；

4.协助CP工程师提高技术能力；

5.协助CP工程师解决开发中遇到的技术问题；

6.协助我司管理人员提高CP产品项目质量；

7.响应客服、运营、渠道等部门的需求和问题，跟踪调查CP产品在运营过程中的技术问题，协助CP完成缺陷定位，协助CP管理人员督促CP进行产品质量改进；

8.根据需要参与买断游戏应用产品的维护、完成上级安排的其他开发任务；

9.协助公司产品部门的CP合同执行以及其他商务活动；

10.进行技术交流和宣传，向目标客户介绍推广斯凯SDK开发平台；

任职要求：

1.本科以上，计算机及电子信息类相关专业背景。

2.2年以上C/C++或JAVA作为编程语言的产品开发经验；

3.具备以下工作背景之一者优先：

（1）从事过手机终端游戏、应用开发（如Symbian/Brew/J2ME）；

（2）有嵌入式产品开发经验；

（3） PC客户端应用产品、网游开发经验；

4.良好的沟通、组织协调、书面表达能力；

5.常驻北京或杭州，但能适应国内其他大城市短期出差。

—————————–我是分割线———————————————

运维DBA：

工作地点：杭州

工作职责：

1.PostgreSQL,EnterpriseDB,GreenPlum数据库之一的维护和管理；

2.业务运营数据库系统的稳定运行与日常维护保障；

3.业务运营数据库的存储安全、备份及恢复、容灾，确保数据库高可用性；

4.对数据库进行性能优化、故障分析处理；

任职要求：

1.了解数据库原理及几种主流数据库之间的差异；

2.熟悉redhat enterprise linux操作系统；

3.二年以上数据库管理经验，至少熟悉PostgreSQL、EnterpriseDB、GreenPlum管理之一,有Oracle管理经验优先；

4.熟悉数据库高可用、高性能方案设计;

5.熟悉分布式数据库设计优先考虑;

6.具有较强的业务理解能力，能根据业务需求设计出合理的数据模型；

7.具备高度的责任心，学习能力强，具有团队合作精神；

工作职责：

1.PostgreSQL,EnterpriseDB,GreenPlum数据库之一的维护和管理；

2.业务运营数据库系统的稳定运行与日常维护保障；

3.业务运营数据库的存储安全、备份及恢复、容灾，确保数据库高可用性；

4.对数据库进行性能优化、故障分析处理；

任职要求：

1.了解数据库原理及几种主流数据库之间的差异；

2.熟悉redhat enterprise linux操作系统；

3.二年以上数据库管理经验，至少熟悉PostgreSQL、EnterpriseDB、GreenPlum管理之一,有Oracle管理经验优先；

4.熟悉数据库高可用、高性能方案设计;

5.熟悉分布式数据库设计优先考虑;

6.具有较强的业务理解能力，能根据业务需求设计出合理的数据模型；

7.具备高度的责任心，学习能力强，具有团队合作精神；

—————————–我是分割线———————————————

资深开发DBA

工作地点：杭州

技能要求:

1.精通SQL代码编写

2.熟悉SQL优化

3.精通数据库建模

4.良好的沟通技能、团队合作能力

5.具有良好的数据建模能力

6.掌握数据库开发与设计工具的使用

7.三年以上开发DBA工作经验

8.至少熟悉掌握ORACLE/POSTGRESQL/MYSQL中的一种

9.有开发经验者优先

工作职责:

1.负责 DB 开发、以及开发/测试库的日常维护；

2.负责 DB Schema 设计以及评审；

3.完善和宣贯 DB 开发规范和相关流程，提高应用开发人员 DB 开发技能。

4.评估，跟踪，支持开发项目

5.数据库变更管理

6.数据库开发相关性能优化

7.开发、测试环境管理与维护

—————————–我是分割线———————————————

网游服务端优化工程师

工作地点：杭州

工作职责：

1.参与服务器端的系统设计及优化

2.与团队其他成员协作/沟通，解决技术难题，并为产品设计提供技术评估

3.游戏运营支持系统的开发以及后期优化、维护工作

任职要求：

1.本科以上，计算机及相关专业背景

2.3年以上JAVA开发经验：3年以上服务器端经验

3.熟悉多线程下的SOCKET开发技术，对网络架构、负载有一定的经验，了解高并发网络应用的常见瓶颈和解决方案

4.熟悉linux的基本命令操作，有在linux环境下进行JAVA开发调试的经验

5.具备扎实的编码功底，有良好的对数据模型的设计和抽象能力，对游戏世界的概念抽象尤其重要

—————————–我是分割线———————————————

网游终端优化工程师

工作地点：杭州

工作职责：

1.参与客户端的系统设计及优化

2.与团队其他成员协作/沟通，解决技术难题，并为产品设计提供技术评估

3.游戏运营支持系统的开发以及后期优化、维护工作

任职要求：

1.本科以上，计算机及相关专业背景

2.3年以上C开发经验：1年以上嵌入式软件开发经验

3.熟悉手机的网络编程，对资源受限的嵌入式系统开发有一定的认识，有手机网络游戏开发经验的更佳

4.具备扎实的编码功底，有良好的对数据模型的设计和抽象能力，对游戏世界的概念抽象尤其重要

5.良好的文档撰写能力，且能熟练阅读和理解英文专业资料，有较强的学习能力，具有良好的团队合作精神

—————————–我是分割线———————————————

手机平台开发工程师

工作地点：杭州

工作职责：

1.在MTK、Brew、Mstar、展讯等手机平台上扩展虚拟机接口

2.在MTK、Brew、Mstar、展讯、NOKIA S40等手机平台上移植虚拟机

3.手机终端上开发应用产品

任职要求：

1.扎实的C语言功底和编程能力

2.1年以上MTK、展讯、MStar、Brew等手机平台开发经验

3.1年以上嵌入式开发经验者优先

4.能够出差到现场解决移植中遇到的问题

—————————–我是分割线———————————————

项目经理

工作地点：杭州

工作职责：

1. 参与产品定义及可行性评审；跟踪和控制需求的输入和变更

2. 制定项目计划，并控制实施；项目质量过程保证和改进

3. 完成项目质量过程裁剪工作；给项目成员分配任务并跟踪反馈

4. 对项目组成员进行绩效考核；指导项目成员做好项目质量过程规范

5. 独立分析梳理基本的需求

任职要求：

1. 本科（含）以上学历，计算机科学与技术或经济管理类专业

2. 三年以上软件行业或相关行业工作经验，有过产品经理、产品支持经理或项目经理工作经验者更佳

3. 熟悉软件开发过程与需求管理，了解产品管理、质量管理、软件测试及手机软件市场运作

4. 有游戏团队、手机应用软件团队开发管理经验者优先

—————————–我是分割线———————————————

欢迎推荐，邮件到 guoyue@gmail.com

三少个人自留地

hadoop安装后的测试

HADOOP安装

oracle 10g load超高 调整hugepage 遭遇ora-29702

我的翻墙经历

招人了，好职位。

淘宝的兄弟帮我看看啥问题

开始学习Mysql

MySQL 5.1 Reference Manual

请谅解，我不对前家公司的任何事情发表任何评论

BCM培训小结

支付宝？这么烂的用户体验？

启动转岗流程

世界杯开幕了

预祝alan，lori，doris的ocm考试通过

mysql 1045(28000)错误

加入我们，蛋糕西瓜伺候

mysql问题一例

以下职位，诚招！

培训视频–DEMO

5月15日，我在这里！

发布几个招聘信息了

oracle 10g load超高调整hugepage 遭遇ora-29702