Fixed luci.util.dumptable
[project/luci.git] / libs / core / luasrc / util.lua
1 --[[
2 LuCI - Utility library
3
4 Description:
5 Several common useful Lua functions
6
7 FileId:
8 $Id$
9
10 License:
11 Copyright 2008 Steven Barth <steven@midlink.org>
12
13 Licensed under the Apache License, Version 2.0 (the "License");
14 you may not use this file except in compliance with the License.
15 You may obtain a copy of the License at
16
17         http://www.apache.org/licenses/LICENSE-2.0
18
19 Unless required by applicable law or agreed to in writing, software
20 distributed under the License is distributed on an "AS IS" BASIS,
21 WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
22 See the License for the specific language governing permissions and
23 limitations under the License.
24
25 ]]--
26
27 --- LuCI utility functions.
28 module("luci.util", package.seeall)
29
30 --
31 -- Pythonic string formatting extension
32 --
33 getmetatable("").__mod = function(a, b)
34         if not b then
35                 return a
36         elseif type(b) == "table" then
37                 return a:format(unpack(b))
38         else
39                 return a:format(b)
40         end
41 end
42
43
44 --
45 -- Class helper routines
46 --
47
48 --- Create a Class object (Python-style object model).
49 -- The class object can be instantiated by calling itself.
50 -- Any class functions or shared parameters can be attached to this object.
51 -- Attaching a table to the class object makes this table shared between
52 -- all instances of this class. For object parameters use the __init__ function.
53 -- Classes can inherit member functions and values from a base class.
54 -- Class can be instantiated by calling them. All parameters will be passed
55 -- to the __init__ function of this class - if such a function exists.
56 -- The __init__ function must be used to set any object parameters that are not shared
57 -- with other objects of this class. Any return values will be ignored.
58 -- @param base  The base class to inherit from (optional)
59 -- @return              A class object
60 -- @see                 instanceof
61 -- @see                 clone
62 function class(base)
63         local class = {}
64
65         local create = function(class, ...)
66                 local inst = {}
67                 setmetatable(inst, {__index = class})
68
69                 if inst.__init__ then
70                         local stat, err = copcall(inst.__init__, inst, ...)
71                         if not stat then
72                                 error(err)
73                         end
74                 end
75
76                 return inst
77         end
78
79         local classmeta = {__call = create}
80
81         if base then
82                 classmeta.__index = base
83         end
84
85         setmetatable(class, classmeta)
86         return class
87 end
88
89 --- Test whether the given object is an instance of the given class.
90 -- @param object        Object instance
91 -- @param class         Class object to test against
92 -- @return                      Boolean indicating whether the object is an instance
93 -- @see                         class
94 -- @see                         clone
95 function instanceof(object, class)
96         local meta = getmetatable(object)
97         while meta and meta.__index do
98                 if meta.__index == class then
99                         return true
100                 end
101                 meta = getmetatable(meta.__index)
102         end
103         return false
104 end
105
106
107 --
108 -- Scope manipulation routines
109 --
110
111 --- Replace a function scope with a shallow copy of itself.
112 -- This is useful if you want to get rid of several unwanted side effects
113 -- while changing the scope of a certain Lua function.
114 -- @param f             Lua function
115 function resfenv(f)
116         setfenv(f, clone(getfenv(f)))
117 end
118
119 --- Store given object associated with given key in the scope of a function.
120 -- @param f             Lua function
121 -- @param key   String value containg the key of the object to store
122 -- @param obj   Object to store in the scope
123 -- @return              Always nil
124 -- @see updfenv
125 -- @see resfenv
126 function extfenv(f, key, obj)
127         local scope = getfenv(f)
128         scope[key] = obj
129 end
130
131 --- Extend the scope of a function with the contents of a table
132 -- @param f             Lua function
133 -- @param key   String value containg the key of the object to store
134 -- @param obj   Object to store in the scope
135 -- @return              Always nil
136 -- @see extfenv
137 -- @see resfenv
138 function updfenv(f, extscope)
139         update(getfenv(f), extscope)
140 end
141
142 --- Create a new or get an already existing thread local store associated with
143 -- the current active coroutine. A thread local store is private a table object
144 -- whose values can't be accessed from outside of the running coroutine.
145 -- @return      Table value representing the corresponding thread local store
146 function threadlocal()
147         local tbl = {}
148
149         local function get(self, key)
150                 local c = coroutine.running()
151                 local thread = coxpt[c] or c or 0
152                 if not rawget(self, thread) then
153                         return nil
154                 end
155                 return rawget(self, thread)[key]
156         end
157
158         local function set(self, key, value)
159                 local c = coroutine.running()
160                 local thread = coxpt[c] or c or 0
161                 if not rawget(self, thread) then
162                         rawset(self, thread, {})
163                 end
164                 rawget(self, thread)[key] = value
165         end
166
167         setmetatable(tbl, {__index = get, __newindex = set, __mode = "k"})
168
169         return tbl
170 end
171
172
173 --
174 -- Debugging routines
175 --
176
177 --- Write given object to stderr.
178 -- @param obj   Value to write to stderr
179 -- @return              Boolean indicating whether the write operation was successful
180 function perror(obj)
181         return io.stderr:write(tostring(obj) .. "\n")
182 end
183
184 --- Recursively dumps a table to stdout, useful for testing and debugging.
185 -- @param t     Table value to dump
186 -- @param i     Number of tabs to prepend to each line
187 -- @return      Always nil
188 function dumptable(t, i, seen)
189         i = i or 0
190         seen = seen or setmetatable({}, {__mode="k"})
191         
192         for k,v in pairs(t) do
193                 perror(string.rep("\t", i) .. tostring(k) .. "\t" .. tostring(v))
194                 if type(v) == "table" then
195                         if not seen[v] then
196                                 seen[v] = true
197                                 dumptable(v, i+1, seen)
198                         else
199                                 perror(string.rep("\t", i) .. "*** RECURSION ***")
200                         end
201                 end
202         end
203 end
204
205
206 --
207 -- String and data manipulation routines
208 --
209
210 --- Escapes all occurrences of the given character in given string.
211 -- @param s     String value containing unescaped characters
212 -- @param c     String value with character to escape (optional, defaults to "\")
213 -- @return      String value with each occurrence of character escaped with "\"
214 function escape(s, c)
215         c = c or "\\"
216         return s:gsub(c, "\\" .. c)
217 end
218
219 --- Create valid XML PCDATA from given string.
220 -- @param value String value containing the data to escape
221 -- @return              String value containing the escaped data
222 function pcdata(value)
223         if not value then return end
224         value = tostring(value)
225         value = value:gsub("&", "&amp;")
226         value = value:gsub('"', "&quot;")
227         value = value:gsub("'", "&apos;")
228         value = value:gsub("<", "&lt;")
229         return value:gsub(">", "&gt;")
230 end
231
232 --- Strip HTML tags from given string.
233 -- @param value String containing the HTML text
234 -- @return      String with HTML tags stripped of
235 function striptags(s)
236         return pcdata(s:gsub("</?[A-Za-z][A-Za-z0-9:_%-]*[^>]*>", " "):gsub("%s+", " "))
237 end
238
239 --- Splits given string on a defined separator sequence and return a table
240 -- containing the resulting substrings. The optional max parameter specifies
241 -- the number of bytes to process, regardless of the actual length of the given
242 -- string. The optional last parameter, regex, specifies whether the separator
243 -- sequence is interpreted as regular expression.
244 -- @param str           String value containing the data to split up
245 -- @param pat           String with separator pattern (optional, defaults to "\n")
246 -- @param max           Maximum times to split (optional)
247 -- @param regex         Boolean indicating whether to interpret the separator
248 --                                      pattern as regular expression (optional, default is false)
249 -- @return                      Table containing the resulting substrings
250 function split(str, pat, max, regex)
251         pat = pat or "\n"
252         max = max or #str
253
254         local t = {}
255         local c = 1
256
257         if #str == 0 then
258                 return {""}
259         end
260
261         if #pat == 0 then
262                 return nil
263         end
264
265         if max == 0 then
266                 return str
267         end
268
269         repeat
270                 local s, e = str:find(pat, c, not regex)
271                 max = max - 1
272                 if s and max < 0 then
273                         table.insert(t, str:sub(c))
274                 else
275                         table.insert(t, str:sub(c, s and s - 1))
276                 end
277                 c = e and e + 1 or #str + 1
278         until not s or max < 0
279
280         return t
281 end
282
283 --- Remove leading and trailing whitespace from given string value.
284 -- @param str   String value containing whitespace padded data
285 -- @return              String value with leading and trailing space removed
286 function trim(str)
287         local s = str:gsub("^%s*(.-)%s*$", "%1")
288         return s
289 end
290
291 --- Parse certain units from the given string and return the canonical integer
292 -- value or 0 if the unit is unknown. Upper- or lower case is irrelevant.
293 -- Recognized units are:
294 --      o "y"   - one year   (60*60*24*366)
295 --  o "m"       - one month  (60*60*24*31)
296 --  o "w"       - one week   (60*60*24*7)
297 --  o "d"       - one day    (60*60*24)
298 --  o "h"       - one hour       (60*60)
299 --  o "min"     - one minute (60)
300 --  o "kb"  - one kilobyte (1024)
301 --  o "mb"      - one megabyte (1024*1024)
302 --  o "gb"      - one gigabyte (1024*1024*1024)
303 --  o "kib" - one si kilobyte (1000)
304 --  o "mib"     - one si megabyte (1000*1000)
305 --  o "gib"     - one si gigabyte (1000*1000*1000)
306 -- @param ustr  String containing a numerical value with trailing unit
307 -- @return              Number containing the canonical value
308 function parse_units(ustr)
309
310         local val = 0
311
312         -- unit map
313         local map = {
314                 -- date stuff
315                 y   = 60 * 60 * 24 * 366,
316                 m   = 60 * 60 * 24 * 31,
317                 w   = 60 * 60 * 24 * 7,
318                 d   = 60 * 60 * 24,
319                 h   = 60 * 60,
320                 min = 60,
321
322                 -- storage sizes
323                 kb  = 1024,
324                 mb  = 1024 * 1024,
325                 gb  = 1024 * 1024 * 1024,
326
327                 -- storage sizes (si)
328                 kib = 1000,
329                 mib = 1000 * 1000,
330                 gib = 1000 * 1000 * 1000
331         }
332
333         -- parse input string
334         for spec in ustr:lower():gmatch("[0-9%.]+[a-zA-Z]*") do
335
336                 local num = spec:gsub("[^0-9%.]+$","")
337                 local spn = spec:gsub("^[0-9%.]+", "")
338
339                 if map[spn] or map[spn:sub(1,1)] then
340                         val = val + num * ( map[spn] or map[spn:sub(1,1)] )
341                 else
342                         val = val + num
343                 end
344         end
345
346
347         return val
348 end
349
350 --- Combines two or more numerically indexed tables into one.
351 -- @param tbl1  Table value to combine
352 -- @param tbl2  Table value to combine
353 -- @param ...   More tables to combine
354 -- @return              Table value containing all values of given tables
355 function combine(...)
356         local result = {}
357         for i, a in ipairs(arg) do
358                 for j, v in ipairs(a) do
359                         table.insert(result, v)
360                 end
361         end
362         return result
363 end
364
365 --- Checks whether the given table contains the given value.
366 -- @param table Table value
367 -- @param value Value to search within the given table
368 -- @return              Boolean indicating whether the given value occurs within table
369 function contains(table, value)
370         for k, v in pairs(table) do
371                 if value == v then
372                         return k
373                 end
374         end
375         return false
376 end
377
378 --- Update values in given table with the values from the second given table.
379 -- Both table are - in fact - merged together.
380 -- @param t                     Table which should be updated
381 -- @param updates       Table containing the values to update
382 -- @return                      Always nil
383 function update(t, updates)
384         for k, v in pairs(updates) do
385                 t[k] = v
386         end
387 end
388
389 --- Retrieve all keys of given associative table.
390 -- @param t     Table to extract keys from
391 -- @return      Sorted table containing the keys
392 function keys(t)
393         local keys = { }
394         if t then
395                 for k, _ in kspairs(t) do
396                         table.insert( keys, k )
397                 end
398         end
399         return keys
400 end
401
402 --- Clones the given object and return it's copy.
403 -- @param object        Table value to clone
404 -- @param deep          Boolean indicating whether to do recursive cloning
405 -- @return                      Cloned table value
406 function clone(object, deep)
407         local copy = {}
408
409         for k, v in pairs(object) do
410                 if deep and type(v) == "table" then
411                         v = clone(v, deep)
412                 end
413                 copy[k] = v
414         end
415
416         setmetatable(copy, getmetatable(object))
417
418         return copy
419 end
420
421
422 --- Create a dynamic table which automatically creates subtables.
423 -- @return      Dynamic Table
424 function dtable()
425         return setmetatable({}, { __index =
426                 function(tbl, key)
427                         return rawget(tbl, key)
428                          or rawget(rawset(tbl, key, dtable()), key)
429                 end
430         })
431 end
432
433
434 -- Serialize the contents of a table value.
435 function _serialize_table(t, seen)
436         assert(not seen[t], "Recursion detected.")
437         seen[t] = true
438         
439         local data = ""
440         for k, v in pairs(t) do
441                 k = serialize_data(k, seen)
442                 v = serialize_data(v, seen)
443                 data = data .. ( #data > 0 and ", " or "" ) ..
444                         '[' .. k .. '] = ' .. v
445         end
446         return data
447 end
448
449 --- Recursively serialize given data to lua code, suitable for restoring
450 -- with loadstring().
451 -- @param val   Value containing the data to serialize
452 -- @return              String value containing the serialized code
453 -- @see                 restore_data
454 -- @see                 get_bytecode
455 function serialize_data(val, seen)
456         seen = seen or setmetatable({}, {__mode="k"})
457         
458         if val == nil then
459                 return "nil"
460         elseif type(val) == "number" then
461                 return val
462         elseif type(val) == "string" then
463                 return string.format("%q", val)
464         elseif type(val) == "boolean" then
465                 return val and "true" or "false"
466         elseif type(val) == "function" then
467                 return string.format("loadstring(%q)", get_bytecode(val))
468         elseif type(val) == "table" then
469                 return "{ " .. _serialize_table(val, seen) .. " }"
470         else
471                 return '"[unhandled data type:' .. type(val) .. ']"'
472         end
473 end
474
475 --- Restore data previously serialized with serialize_data().
476 -- @param str   String containing the data to restore
477 -- @return              Value containing the restored data structure
478 -- @see                 serialize_data
479 -- @see                 get_bytecode
480 function restore_data(str)
481         return loadstring("return " .. str)()
482 end
483
484
485 --
486 -- Byte code manipulation routines
487 --
488
489 --- Return the current runtime bytecode of the given data. The byte code
490 -- will be stripped before it is returned.
491 -- @param val   Value to return as bytecode
492 -- @return              String value containing the bytecode of the given data
493 function get_bytecode(val)
494         local code
495
496         if type(val) == "function" then
497                 code = string.dump(val)
498         else
499                 code = string.dump( loadstring( "return " .. serialize_data(val) ) )
500         end
501
502         return code and strip_bytecode(code)
503 end
504
505 --- Strips unnescessary lua bytecode from given string. Information like line
506 -- numbers and debugging numbers will be discarded. Original version by
507 -- Peter Cawley (http://lua-users.org/lists/lua-l/2008-02/msg01158.html)
508 -- @param code  String value containing the original lua byte code
509 -- @return              String value containing the stripped lua byte code
510 function strip_bytecode(code)
511         local version, format, endian, int, size, ins, num, lnum = code:byte(5, 12)
512         local subint
513         if endian == 1 then
514                 subint = function(code, i, l)
515                         local val = 0
516                         for n = l, 1, -1 do
517                                 val = val * 256 + code:byte(i + n - 1)
518                         end
519                         return val, i + l
520                 end
521         else
522                 subint = function(code, i, l)
523                         local val = 0
524                         for n = 1, l, 1 do
525                                 val = val * 256 + code:byte(i + n - 1)
526                         end
527                         return val, i + l
528                 end
529         end
530
531         local strip_function
532         strip_function = function(code)
533                 local count, offset = subint(code, 1, size)
534                 local stripped, dirty = string.rep("\0", size), offset + count
535                 offset = offset + count + int * 2 + 4
536                 offset = offset + int + subint(code, offset, int) * ins
537                 count, offset = subint(code, offset, int)
538                 for n = 1, count do
539                         local t
540                         t, offset = subint(code, offset, 1)
541                         if t == 1 then
542                                 offset = offset + 1
543                         elseif t == 4 then
544                                 offset = offset + size + subint(code, offset, size)
545                         elseif t == 3 then
546                                 offset = offset + num
547                         elseif t == 254 or t == 9 then
548                                 offset = offset + lnum
549                         end
550                 end
551                 count, offset = subint(code, offset, int)
552                 stripped = stripped .. code:sub(dirty, offset - 1)
553                 for n = 1, count do
554                         local proto, off = strip_function(code:sub(offset, -1))
555                         stripped, offset = stripped .. proto, offset + off - 1
556                 end
557                 offset = offset + subint(code, offset, int) * int + int
558                 count, offset = subint(code, offset, int)
559                 for n = 1, count do
560                         offset = offset + subint(code, offset, size) + size + int * 2
561                 end
562                 count, offset = subint(code, offset, int)
563                 for n = 1, count do
564                         offset = offset + subint(code, offset, size) + size
565                 end
566                 stripped = stripped .. string.rep("\0", int * 3)
567                 return stripped, offset
568         end
569
570         return code:sub(1,12) .. strip_function(code:sub(13,-1))
571 end
572
573
574 --
575 -- Sorting iterator functions
576 --
577
578 function _sortiter( t, f )
579         local keys = { }
580
581         for k, v in pairs(t) do
582                 table.insert( keys, k )
583         end
584
585         local _pos = 0
586         local _len = table.getn( keys )
587
588         table.sort( keys, f )
589
590         return function()
591                 _pos = _pos + 1
592                 if _pos <= _len then
593                         return keys[_pos], t[keys[_pos]]
594                 end
595         end
596 end
597
598 --- Return a key, value iterator which returns the values sorted according to
599 -- the provided callback function.
600 -- @param t     The table to iterate
601 -- @param f A callback function to decide the order of elements
602 -- @return      Function value containing the corresponding iterator
603 function spairs(t,f)
604         return _sortiter( t, f )
605 end
606
607 --- Return a key, value iterator for the given table.
608 -- The table pairs are sorted by key.
609 -- @param t     The table to iterate
610 -- @return      Function value containing the corresponding iterator
611 function kspairs(t)
612         return _sortiter( t )
613 end
614
615 --- Return a key, value iterator for the given table.
616 -- The table pairs are sorted by value.
617 -- @param t     The table to iterate
618 -- @return      Function value containing the corresponding iterator
619 function vspairs(t)
620         return _sortiter( t, function (a,b) return t[a] < t[b] end )
621 end
622
623
624 --
625 -- System utility functions
626 --
627
628 --- Test whether the current system is operating in big endian mode.
629 -- @return      Boolean value indicating whether system is big endian
630 function bigendian()
631         return string.byte(string.dump(function() end), 7) == 0
632 end
633
634 --- Execute given commandline and gather stdout.
635 -- @param command       String containing command to execute
636 -- @return                      String containing the command's stdout
637 function exec(command)
638         local pp   = io.popen(command)
639         local data = pp:read("*a")
640         pp:close()
641
642         return data
643 end
644
645 --- Return a line-buffered iterator over the output of given command.
646 -- @param command       String containing the command to execute
647 -- @return                      Iterator
648 function execi(command)
649         local pp = io.popen(command)
650
651         return pp and function()
652                 local line = pp:read()
653                 
654                 if not line then
655                         pp:close()
656                 end
657                 
658                 return line
659         end
660 end
661
662 -- Deprecated
663 function execl(command)
664         local pp   = io.popen(command)
665         local line = ""
666         local data = {}
667
668         while true do
669                 line = pp:read()
670                 if (line == nil) then break end
671                 table.insert(data, line)
672         end
673         pp:close()
674
675         return data
676 end
677
678 --- Returns the absolute path to LuCI base directory.
679 -- @return              String containing the directory path
680 function libpath()
681         return luci.fs.dirname(require("luci.debug").__file__)
682 end
683
684
685 --
686 -- Coroutine safe xpcall and pcall versions modified for Luci
687 -- original version:
688 -- coxpcall 1.13 - Copyright 2005 - Kepler Project (www.keplerproject.org)
689 --
690 -- Copyright © 2005 Kepler Project.
691 -- Permission is hereby granted, free of charge, to any person obtaining a
692 -- copy of this software and associated documentation files (the "Software"),
693 -- to deal in the Software without restriction, including without limitation
694 -- the rights to use, copy, modify, merge, publish, distribute, sublicense,
695 -- and/or sell copies of the Software, and to permit persons to whom the
696 -- Software is furnished to do so, subject to the following conditions:
697 --
698 -- The above copyright notice and this permission notice shall be
699 -- included in all copies or substantial portions of the Software.
700 --
701 -- THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND,
702 -- EXPRESS OR IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES
703 -- OF MERCHANTABILITY, FITNESS FOR A PARTICULAR PURPOSE AND NONINFRINGEMENT.
704 -- IN NO EVENT SHALL THE AUTHORS OR COPYRIGHT HOLDERS BE LIABLE FOR ANY CLAIM,
705 -- DAMAGES OR OTHER LIABILITY, WHETHER IN AN ACTION OF CONTRACT,
706 -- TORT OR OTHERWISE, ARISING FROM, OUT OF OR IN CONNECTION WITH THE SOFTWARE
707 -- OR THE USE OR OTHER DEALINGS IN THE SOFTWARE.
708
709 local performResume, handleReturnValue
710 local oldpcall, oldxpcall = pcall, xpcall
711 coxpt = {}
712 setmetatable(coxpt, {__mode = "kv"})
713
714 -- Identity function for copcall
715 local function copcall_id(trace, ...)
716   return ...
717 end
718
719 --- This is a coroutine-safe drop-in replacement for Lua's "xpcall"-function
720 -- @param f             Lua function to be called protected
721 -- @param err   Custom error handler
722 -- @param ...   Parameters passed to the function
723 -- @return              A boolean whether the function call succeeded and the return
724 --                              values of either the function or the error handler
725 function coxpcall(f, err, ...)
726         local res, co = oldpcall(coroutine.create, f)
727         if not res then
728                 local params = {...}
729                 local newf = function() return f(unpack(params)) end
730                 co = coroutine.create(newf)
731         end
732         local c = coroutine.running()
733         coxpt[co] = coxpt[c] or c or 0
734
735         return performResume(err, co, ...)
736 end
737
738 --- This is a coroutine-safe drop-in replacement for Lua's "pcall"-function
739 -- @param f             Lua function to be called protected
740 -- @param ...   Parameters passed to the function
741 -- @return              A boolean whether the function call succeeded and the returns
742 --                              values of the function or the error object
743 function copcall(f, ...)
744         return coxpcall(f, copcall_id, ...)
745 end
746
747 -- Handle return value of protected call
748 function handleReturnValue(err, co, status, ...)
749         if not status then
750                 return false, err(debug.traceback(co, (...)), ...)
751         end
752         if coroutine.status(co) == 'suspended' then
753                 return performResume(err, co, coroutine.yield(...))
754         else
755                 return true, ...
756         end
757 end
758
759 -- Resume execution of protected function call
760 function performResume(err, co, ...)
761         return handleReturnValue(err, co, coroutine.resume(co, ...))
762 end