Class CrawlOptions


  • public class CrawlOptions
    extends java.lang.Object
    Options for crawling a website.
    • Method Detail

      • getPrompt

        public java.lang.String getPrompt()
      • getExcludePaths

        public java.util.List<java.lang.String> getExcludePaths()
      • getIncludePaths

        public java.util.List<java.lang.String> getIncludePaths()
      • getMaxDiscoveryDepth

        public java.lang.Integer getMaxDiscoveryDepth()
      • getSitemap

        public java.lang.String getSitemap()
      • getIgnoreQueryParameters

        public java.lang.Boolean getIgnoreQueryParameters()
      • getDeduplicateSimilarURLs

        public java.lang.Boolean getDeduplicateSimilarURLs()
      • getLimit

        public java.lang.Integer getLimit()
      • getCrawlEntireDomain

        public java.lang.Boolean getCrawlEntireDomain()
      • getAllowExternalLinks

        public java.lang.Boolean getAllowExternalLinks()
      • getAllowSubdomains

        public java.lang.Boolean getAllowSubdomains()
      • getDelay

        public java.lang.Integer getDelay()
      • getMaxConcurrency

        public java.lang.Integer getMaxConcurrency()
      • getWebhook

        public java.lang.Object getWebhook()
      • getRegexOnFullURL

        public java.lang.Boolean getRegexOnFullURL()
      • getZeroDataRetention

        public java.lang.Boolean getZeroDataRetention()
      • getIntegration

        public java.lang.String getIntegration()