mirror of
https://github.com/MontFerret/ferret.git
synced 2025-07-05 00:49:00 +02:00
Feature/#236 cookies (#242)
* Added KeepCookies option to CDP driver * Added LoadDocumentParams * Added COOKIE_GET and COOKIE_SET methods
This commit is contained in:
@ -2,6 +2,7 @@ package html
|
||||
|
||||
import (
|
||||
"context"
|
||||
"strings"
|
||||
"time"
|
||||
|
||||
"github.com/MontFerret/ferret/pkg/drivers"
|
||||
@ -12,6 +13,7 @@ import (
|
||||
)
|
||||
|
||||
type DocumentLoadParams struct {
|
||||
drivers.LoadDocumentParams
|
||||
Driver string
|
||||
Timeout time.Duration
|
||||
}
|
||||
@ -43,9 +45,9 @@ func Document(ctx context.Context, args ...core.Value) (core.Value, error) {
|
||||
var params DocumentLoadParams
|
||||
|
||||
if len(args) == 1 {
|
||||
params = newDefaultDocLoadParams()
|
||||
params = newDefaultDocLoadParams(url)
|
||||
} else {
|
||||
p, err := newDocLoadParams(args[1])
|
||||
p, err := newDocLoadParams(url, args[1])
|
||||
|
||||
if err != nil {
|
||||
return values.None, err
|
||||
@ -63,17 +65,20 @@ func Document(ctx context.Context, args ...core.Value) (core.Value, error) {
|
||||
return values.None, err
|
||||
}
|
||||
|
||||
return drv.GetDocument(ctx, url)
|
||||
return drv.LoadDocument(ctx, params.LoadDocumentParams)
|
||||
}
|
||||
|
||||
func newDefaultDocLoadParams() DocumentLoadParams {
|
||||
func newDefaultDocLoadParams(url values.String) DocumentLoadParams {
|
||||
return DocumentLoadParams{
|
||||
LoadDocumentParams: drivers.LoadDocumentParams{
|
||||
URL: url.String(),
|
||||
},
|
||||
Timeout: time.Second * 30,
|
||||
}
|
||||
}
|
||||
|
||||
func newDocLoadParams(arg core.Value) (DocumentLoadParams, error) {
|
||||
res := newDefaultDocLoadParams()
|
||||
func newDocLoadParams(url values.String, arg core.Value) (DocumentLoadParams, error) {
|
||||
res := newDefaultDocLoadParams(url)
|
||||
|
||||
if err := core.ValidateType(arg, types.Boolean, types.String, types.Object); err != nil {
|
||||
return res, err
|
||||
@ -103,6 +108,58 @@ func newDocLoadParams(arg core.Value) (DocumentLoadParams, error) {
|
||||
res.Timeout = time.Duration(timeout.(values.Int)) + time.Millisecond
|
||||
}
|
||||
|
||||
userAgent, exists := obj.Get(values.NewString("userAgent"))
|
||||
|
||||
if exists {
|
||||
if err := core.ValidateType(userAgent, types.String); err != nil {
|
||||
return res, err
|
||||
}
|
||||
|
||||
res.UserAgent = userAgent.String()
|
||||
}
|
||||
|
||||
keepCookies, exists := obj.Get(values.NewString("keepCookies"))
|
||||
|
||||
if exists {
|
||||
if err := core.ValidateType(keepCookies, types.Boolean); err != nil {
|
||||
return res, err
|
||||
}
|
||||
|
||||
res.KeepCookies = bool(keepCookies.(values.Boolean))
|
||||
}
|
||||
|
||||
cookies, exists := obj.Get(values.NewString("cookies"))
|
||||
|
||||
if exists {
|
||||
if err := core.ValidateType(cookies, types.Array); err != nil {
|
||||
return res, err
|
||||
}
|
||||
|
||||
cookies, err := parseCookies(cookies.(*values.Array))
|
||||
|
||||
if err != nil {
|
||||
return res, err
|
||||
}
|
||||
|
||||
res.Cookies = cookies
|
||||
}
|
||||
|
||||
header, exists := obj.Get(values.NewString("header"))
|
||||
|
||||
if exists {
|
||||
if err := core.ValidateType(header, types.Object); err != nil {
|
||||
return res, err
|
||||
}
|
||||
|
||||
header, err := parseHeader(header.(*values.Object))
|
||||
|
||||
if err != nil {
|
||||
return res, err
|
||||
}
|
||||
|
||||
res.Header = header
|
||||
}
|
||||
|
||||
break
|
||||
case types.String:
|
||||
res.Driver = arg.(values.String).String()
|
||||
@ -121,3 +178,127 @@ func newDocLoadParams(arg core.Value) (DocumentLoadParams, error) {
|
||||
|
||||
return res, nil
|
||||
}
|
||||
|
||||
func parseCookies(arr *values.Array) ([]drivers.HTTPCookie, error) {
|
||||
var err error
|
||||
res := make([]drivers.HTTPCookie, 0, arr.Length())
|
||||
|
||||
arr.ForEach(func(value core.Value, idx int) bool {
|
||||
cookie, e := parseCookie(value)
|
||||
|
||||
if e != nil {
|
||||
err = e
|
||||
|
||||
return false
|
||||
}
|
||||
|
||||
res = append(res, cookie)
|
||||
|
||||
return true
|
||||
})
|
||||
|
||||
return res, err
|
||||
}
|
||||
|
||||
func parseCookie(value core.Value) (drivers.HTTPCookie, error) {
|
||||
var err error
|
||||
|
||||
if err = core.ValidateType(value, types.Object, drivers.HTTPCookieType); err != nil {
|
||||
return drivers.HTTPCookie{}, err
|
||||
}
|
||||
|
||||
if value.Type() == drivers.HTTPCookieType {
|
||||
return value.(drivers.HTTPCookie), nil
|
||||
}
|
||||
|
||||
co := value.(*values.Object)
|
||||
|
||||
cookie := drivers.HTTPCookie{
|
||||
Name: co.MustGet("name").String(),
|
||||
Value: co.MustGet("value").String(),
|
||||
Path: co.MustGet("path").String(),
|
||||
Domain: co.MustGet("domain").String(),
|
||||
}
|
||||
|
||||
maxAge, exists := co.Get("maxAge")
|
||||
|
||||
if exists {
|
||||
if err = core.ValidateType(maxAge, types.Int); err != nil {
|
||||
return drivers.HTTPCookie{}, err
|
||||
}
|
||||
|
||||
cookie.MaxAge = int(maxAge.(values.Int))
|
||||
}
|
||||
|
||||
expires, exists := co.Get("expires")
|
||||
|
||||
if exists {
|
||||
if err = core.ValidateType(maxAge, types.DateTime, types.String); err != nil {
|
||||
return drivers.HTTPCookie{}, err
|
||||
}
|
||||
|
||||
if expires.Type() == types.DateTime {
|
||||
cookie.Expires = expires.(values.DateTime).Unwrap().(time.Time)
|
||||
} else {
|
||||
t, err := time.Parse(expires.String(), values.DefaultTimeLayout)
|
||||
|
||||
if err != nil {
|
||||
return drivers.HTTPCookie{}, err
|
||||
}
|
||||
|
||||
cookie.Expires = t
|
||||
}
|
||||
}
|
||||
|
||||
sameSite, exists := co.Get("sameSite")
|
||||
|
||||
if exists {
|
||||
sameSite := strings.ToLower(sameSite.String())
|
||||
|
||||
switch sameSite {
|
||||
case "lax":
|
||||
cookie.SameSite = drivers.SameSiteLaxMode
|
||||
break
|
||||
case "strict":
|
||||
cookie.SameSite = drivers.SameSiteStrictMode
|
||||
break
|
||||
default:
|
||||
cookie.SameSite = drivers.SameSiteDefaultMode
|
||||
break
|
||||
}
|
||||
}
|
||||
|
||||
httpOnly, exists := co.Get("httpOnly")
|
||||
|
||||
if exists {
|
||||
if err = core.ValidateType(httpOnly, types.Boolean); err != nil {
|
||||
return drivers.HTTPCookie{}, err
|
||||
}
|
||||
|
||||
cookie.HTTPOnly = bool(httpOnly.(values.Boolean))
|
||||
}
|
||||
|
||||
secure, exists := co.Get("secure")
|
||||
|
||||
if exists {
|
||||
if err = core.ValidateType(secure, types.Boolean); err != nil {
|
||||
return drivers.HTTPCookie{}, err
|
||||
}
|
||||
|
||||
cookie.Secure = bool(secure.(values.Boolean))
|
||||
}
|
||||
|
||||
return cookie, err
|
||||
}
|
||||
|
||||
func parseHeader(header *values.Object) (drivers.HTTPHeader, error) {
|
||||
res := make(drivers.HTTPHeader)
|
||||
|
||||
header.ForEach(func(value core.Value, key string) bool {
|
||||
res.Set(key, value.String())
|
||||
|
||||
return true
|
||||
})
|
||||
|
||||
return res, nil
|
||||
}
|
||||
|
Reference in New Issue
Block a user